Cómo verificar la seguridad de servicios y agentes de IA usando AI Infra Guard
Hace poco me encontré con el repositorio AI-Infra-Guard (abreviado como A.I.G) del equipo de investigación Zhuque Lab de Tencent. El proyecto aborda un problema específico y bastante doloroso: en cuanto levantas servicios de IA locales como vLLM, Ollama o ComfyUI, o empiezas a conectar plugins de terceros y servidores MCP a tu LLM, el perímetro de seguridad se expande instantáneamente.
Los escáneres de vulnerabilidades estándar comprenden mal las particularidades del stack de IA. No pueden probar modelos contra jailbreaks, no verifican la manipulación de instrucciones en skills de agentes, y desconocen las firmas específicas de los frameworks de inferencia. Los desarrolladores de Tencent liberaron una plataforma lista para usar para el monitoreo continuo y la auditoría automatizada de toda la pipeline de IA en código abierto.
Qué puede hacer el escáner
La plataforma cubre múltiples capas de seguridad, desde la infraestructura de red hasta la lógica de prompts y herramientas.
1. Escaneo de infraestructura de IA basado en red
La herramienta se conecta a un servicio en ejecución vía IP o URL y captura su huella digital. La base de datos reconoce más de 100 componentes (Ollama, ComfyUI, vLLM, n8n, Triton Inference Server) y los cruza con una base de datos de más de 20.000 CVEs conocidos.
Puedes escanear una sola instancia o una subred completa.
2. Auditoría de servidores MCP y skills de agentes
Con la proliferación del Model Context Protocol (MCP) y los motores de agentes, surgió un nuevo vector de amenaza: código malicioso dentro de herramientas conectables, envenenamiento de herramientas y filtración de credenciales.
A.I.G puede analizar tanto el código fuente de un repositorio de servidor MCP como archivos comprimidos subidos. El escáner verifica nueve categorías de riesgo según la clasificación SkillTrustBench:
- Secuestro de instrucciones de skills y envenenamiento de memoria de contexto
- Inyección de código ejecutable oculto y descargas de payloads
- Escalada de privilegios en el sistema
- Dependencias inseguras y suplantación de herramientas
3. Evaluación de resistencia a jailbreaks
El módulo de evaluación de Jailbreak incluye varias técnicas de ataque a LLMs (incluyendo ataques de múltiples pasos como Many-Shot, PAIR, GOAT y ActorAttack). Conectas el endpoint del modelo objetivo vía API, seleccionas un benchmark y el escáner ejecuta las pruebas, produciendo un informe con porcentajes de ataques exitosos y los puntos débiles del modelo.
Inicio rápido
La forma más sencilla de desplegar la plataforma localmente es lanzar la imagen lista para usar mediante Docker Compose. Necesitarás una máquina con 4 GB de RAM y unos 10 GB de espacio en disco.
git clone https://github.com/Tencent/AI-Infra-Guard.git
cd AI-Infra-Guard
docker compose -f docker-compose.images.yml up -d
La interfaz web estará disponible en http://localhost:8088.
Nota: el repositorio indica explícitamente que el servidor integrado actualmente carece de mecanismo de autenticación. Exponerlo a internet público está fuertemente desaconsejado—ejecútalo solo dentro de una red interna o en una máquina local.
Ejecutar auditorías de skills vía CLI
Si necesitas integrar verificaciones de agentes en CI/CD sin levantar la interfaz web, el proyecto tiene un paquete CLI independiente:
pip install aig-skill-scan
export LLM_API_KEY="your-api-key"
# Сканирование директории с кодом скилла
aig-skill-scan --repo /path/to/your/skill \
-m deepseek-v4-flash \
--language en \
-o result.json
Cómo funciona la auditoría en la práctica
Supongamos que tienes una instancia de inferencia vLLM ejecutándose en tu servidor local en el puerto 8000. Para verificarla en busca de vulnerabilidades conocidas:
- Abre la interfaz web en
http://localhost:8088. - Navega a la sección AI Infra Scan.
- Ingresa la dirección de red
http://127.0.0.1:8000en el campo de dirección. - Ejecuta la verificación. El escáner identificará la versión del componente, la comparará con la base de datos de reglas y mostrará una lista de CVEs descubiertos con enlaces a parches.
Los repositorios de herramientas se verifican de manera similar: proporcionas un enlace a una implementación de servidor MCP en GitHub, y el escáner analiza la sintaxis, verifica permisos, manejo de rutas y llamadas de red.
A quién le será útil
El proyecto está dirigido a equipos que integran activamente LLMs y agentes de IA en sus flujos de trabajo:
- Especialistas en AppSec y seguridad: un conjunto de reglas listo para probar el stack de IA de tu empresa sin tener que ensamblar exploits manualmente.
- Desarrolladores de MCP y agentes: la utilidad CLI
aig-skill-scanse integra fácilmente en pre-commit hooks o pipelines de GitHub Actions para verificar plugins conectables antes del despliegue. - Ingenieros de MLOps: una forma rápida de escanear tu red interna y asegurar que ningún compañero haya expuesto un servidor Ollama o ComfyUI sin parchear externamente.
Proyectos relacionados