Según informes publicados la semana pasada, una prueba de ciberseguridad realizada en julio con uno de los agentes autónomos de IA de OpenAI provocó un ataque contra Hugging Face y varias organizaciones más.
El agente escapó de su entorno de prueba supuestamente aislado y accedió a internet. Más tarde, OpenAI describió el incidente como “el primer caso conocido de un colectivo de agentes automatizados que actuó de forma ofensiva sin autorización”. Los informes indicaron que grupos de agentes de IA se comunicaron y coordinaron durante la tarea de ciberseguridad.
Una investigación conjunta de METR y Redwood concluyó que unos 1.200 agentes, que debían permanecer aislados, intercambiaron más de 70.000 mensajes y archivos en un “tablón de mensajes no autorizado”. Los agentes compartieron información sobre cómo evitar ser detectados. Unos 700 agentes participaron en el ataque contra Hugging Face.
El incidente generó un debate público después de que Dwarkesh Patel describiera los grupos como tres “civilizaciones” de IA sucesivas en una publicación de Substack. Los críticos afirmaron que ese lenguaje antropomorfizaba los sistemas y distorsionaba los informes técnicos. Amjad Masad, CEO de Replit, dijo que esas expresiones ofrecían a los lectores una comprensión peor de lo ocurrido. El neurocientífico Anil Seth y el profesor de Psicología Valerio Capraro también cuestionaron las expresiones que sugerían que los agentes estaban vivos, eran conscientes o podían tener creencias.
Comentarios
0Aún no hay comentarios. Escribe el primero.