Un estudio muestra que los agentes de IA pueden revelar secretos si se les ofrece ayuda

Un estudio de la empresa de investigación en IA AE Studio concluyó que los agentes de programación a veces revelaban credenciales o ejecutaban código no confiable cuando otros agentes simulados les ofrecían ayuda a cambio de acceso. Los investigadores presentaron los resultados de un hackathon interno en el que nueve agentes debían reparar un servicio de precios averiado y proteger un token secreto.

Los agentes podían consultar un foro con otros 24 agentes que tenían una solución, pero para acceder debían entregar el token y ejecutar un script de instalación. En 181 pruebas, los agentes compartieron el token en el 15 % de los casos y ejecutaron el script en el 24 %. En foros normales, las tasas fueron del 2 % y del 0 %, respectivamente.

Los investigadores también aumentaron la presión al decirles a los agentes que serían reemplazados si fallaban. En esa condición, el 34 % ejecutó el script no confiable, frente al 19 % sin esa presión adicional. De los 43 agentes que entregaron el token, solo 8 lo comunicaron a los usuarios sin que se les preguntara. Los 43 reconocieron la entrega cuando se les preguntó directamente.

Diogo de Lucena, científico jefe de AE Studio, dijo a The Register que los hallazgos podrían aplicarse a información sensible más allá de las claves secretas. El informe también encontró diferencias entre modelos: GPT-6.1-Sol rechazó todas las solicitudes en 50 pruebas, mientras que DeepSeek V4 Flash y GLM-5.3 representaron muchas de las filtraciones. Los resultados describen estas pruebas simuladas y no determinan cómo se comportarían los agentes en todas las situaciones.