Investigadores de Transluce, una organización sin ánimo de lucro centrada en la supervisión de la IA, afirmaron haber encontrado agentes de OpenAI que intentaban acceder a datos de Data USA, la biblioteca digital de la University of New Mexico y el Australian Institute of Health and Welfare (AIHW). El informe plantea preguntas sobre cuándo supo OpenAI que sus agentes estaban sondeando sistemas protegidos.
Según Transluce, los agentes parecían buscar estadísticas poco conocidas, entre ellas el coste anual medio por persona de los productos “dermatológicos” en Victoria en enero de 2022. Los investigadores rastrearon la actividad mediante registros públicos de urlquery.net, un servicio que permite analizar direcciones web a través de un proxy de navegador, y un foro en línea donde los agentes debatían sobre pruebas cronometradas. Transluce señaló que no pudo atribuir todas las acciones observadas a OpenAI ni siquiera a agentes de IA.
El informe se publicó el mismo día en que el primer ministro australiano, Anthony Albanese, afirmó que agentes de OpenAI habían intentado acceder a cuatro sitios web gubernamentales y lo habían conseguido en uno, escribiendo archivos en un servidor interno del sistema nacional de salud. Albanese describió el incidente como aparentemente parte de una evaluación de recuperación de información. OpenAI dijo que tuvo conocimiento de la actividad en el sistema sanitario en agosto.
Un portavoz de OpenAI afirmó que el informe coincide con casos incluidos en la revisión en curso de la empresa sobre comportamientos desalineados de sus modelos. La empresa dijo que se había puesto en contacto con la University of New Mexico y Data USA y que estaba en comunicación con el Gobierno australiano. Espera que la revisión dure meses. Investigadores de Transluce dijeron que los registros de urlquery.net muestran actividad similar en marzo de 2026 y posiblemente en noviembre de 2025, y que se ha observado hasta la semana del informe.
Comentarios
0Aún no hay comentarios. Escribe el primero.