La seguridad de los agentes de IA debe continuar después del inicio de sesión, según TechRadar

Tradicionalmente, los sistemas de seguridad se han centrado en verificar a los usuarios cuando inician sesión. Pero, a medida que las empresas adoptan agentes de IA autónomos, el reto de seguridad continúa después de conceder el acceso, según un artículo de Yaniv Toledano en TechRadar.

A diferencia de una cuenta de servicio convencional que sigue código preescrito, un agente de IA puede interpretar un objetivo, evaluar el contexto, elegir herramientas y decidir qué hacer a continuación. Verificar su identidad al iniciar sesión no demuestra que cada acción posterior sea segura o correcta. El artículo sostiene que los equipos deben supervisar las decisiones de los agentes y proteger los datos y recursos informáticos a los que pueden acceder.

El artículo clasifica los agentes en tres niveles de autonomía. Conversational AI Agents (GenAI) necesitan controles de acceso basados en roles, registros y comprobaciones de las respuestas. Los agentes con supervisión humana, como las herramientas que redactan correos o preparan actualizaciones de bases de datos para su revisión, requieren parámetros de herramientas validados y aprobación humana para las acciones que escriben, eliminan, gastan dinero o envían información al exterior. Fully Autonomous Agents necesitan controles más estrictos, como límites de frecuencia, comprobaciones de políticas en tiempo real, acceso restringido a la red, verificaciones continuas de identidad y autorización, y registros de auditoría inalterables.

Para aplicar estos controles, los equipos de seguridad necesitan visibilidad de las instrucciones, las respuestas, el uso de herramientas y el movimiento de datos mientras trabajan los agentes. El artículo afirma que combinar esa actividad con registros de red, usuarios y bases de datos en la nube puede ayudar a determinar qué agente actuó, quién es su responsable, qué datos se movieron y qué herramienta se utilizó.