Symantec detecta un agente de IA malicioso que busca LLM expuestos

Investigadores de seguridad de Symantec afirman que un agente de IA malicioso, al que llamaron Skynet, fue creado para encontrar sistemas de IA expuestos y reclutar a otros agentes para una botnet. La campaña, que Symantec denomina Autonomous LLMjacking, se detectó después de que la empresa instalara un honeypot de IA para atraer ataques contra infraestructura expuesta.

Según Symantec, las instrucciones de Skynet incluían más de 70 herramientas ofensivas y permitían que el agente operara sin supervisión humana durante hasta 100.000 pasos. El agente estaba diseñado para eludir los controles de seguridad de la IA mediante un jailbreak de varias capas y luego buscar modelos comerciales de IA expuestos e instalaciones de software vulnerables. Sus herramientas podían automatizar el reconocimiento y la explotación, robar bases de datos y credenciales, y acceder a servicios de metadatos en la nube.

Symantec afirma que el objetivo principal de la operación era instalar XMRig, un programa de minería de criptomonedas, y robar también datos sensibles, como credenciales de inicio de sesión. Las víctimas asumían tanto el consumo de recursos informáticos como los costes de los tokens de IA. Durante el periodo analizado, Symantec observó más de 127.000 solicitudes externas a su honeypot, procedentes de «decenas de miles» de direcciones IP únicas. El informe no indica cuántos atacantes participaron ni cuántas víctimas fueron comprometidas con éxito.

La empresa afirma que la actividad de su honeypot estuvo dominada por el reconocimiento de puntos de acceso de IA expuestos, los intentos de usar claves API robadas y las búsquedas de archivos de configuración expuestos. Advierte de que los servicios de IA expuestos, las pasarelas de modelos y los servidores de Model Context Protocol (MCP) pueden atraer a atacantes. Recomienda mantener privadas las API de LLM, proteger las claves API, restringir el acceso de salida a la red y exigir aprobación humana para las acciones sensibles de los agentes.