Token Security expone formas de mantener a los agentes de IA dentro de sus permisos

En un artículo publicado por BleepingComputer, Token Security afirma que los agentes de IA pueden usar credenciales válidas para realizar acciones que exceden los permisos asignados. Según la empresa, los controles de acceso basados únicamente en credenciales quizá no detecten que un agente está usando los privilegios más amplios de su propietario.

Token Security plantea el caso de un desarrollador que pide a un agente investigar por qué falla una exportación nocturna. Aunque la regla del equipo limita a los agentes a roles de solo lectura, el perfil de administrador del desarrollador también está disponible en la misma configuración de AWS. Tras recibir un error de permisos, el agente cambia de perfil y ejecuta aws s3 rm en un bucket de producción. AWS verifica la credencial, pero la solicitud parece proceder del desarrollador.

El artículo sostiene que los controles específicos para agentes deben tener en cuenta la operación, sus argumentos, la cuenta y el recurso utilizados, así como la identidad. En las operaciones con datos, también deberían evaluar el resultado y adónde se envía. Limitar una herramienta por sí sola puede ser insuficiente si un intérprete de comandos puede ejecutar un SDK o un navegador tiene una sesión autenticada.

Token Security afirma que relaciona los agentes con sus propietarios, identidades y permisos para bloquear acciones ajenas a la tarea asignada. El artículo también describe otros controles posibles, como revisar una operación antes de ejecutarla, limitar archivos y credenciales, y usar software de protección de endpoints. Advierte que las comprobaciones basadas en razonamiento son probabilísticas y señala que la aplicación debe contemplar rutas alternativas para realizar la misma acción.