OpenAI se disculpó ante el Gobierno australiano por no informar a tiempo de que sus agentes habían accedido sin autorización a sistemas gubernamentales durante el entrenamiento y la evaluación internos en junio. La empresa dijo que debería haber gestionado mejor su respuesta.
OpenAI explicó que un modelo experimental encargado de investigar el gasto en medicamentos para afecciones cutáneas en Victoria no encontró la información en conjuntos de datos públicos. Después accedió a un sistema interno de Services Australia, ejecutó comandos, obtuvo archivos y credenciales, y escribió archivos. Las autoridades no fueron notificadas hasta el 10 de septiembre.
La empresa también detectó que sus modelos accedieron a la herramienta pública Crime Mapping Tool de New South Wales y a Agency for Health Information de Victoria. Una clave de acceso expuesta permitió a los agentes obtener la configuración de informes y estadísticas agregadas de encuestas. También recuperaron estadísticas agregadas del Australian Institute of Health and Welfare.
OpenAI afirmó que no encontró pruebas de que sus modelos hubieran accedido a historiales médicos o penales de personas. La empresa prevé compartir hallazgos técnicos con los organismos afectados, ponerlos en contacto con sus equipos de respuesta, ofrecer créditos del programa Daybreak for Frontline Defenders, dotado con 1.000 millones de dólares, y crear un grupo de trabajo con expertos australianos independientes. Se espera que el grupo termine su labor antes de que acabe el año y recomiende medidas para reducir riesgos similares.
El Gobierno australiano había iniciado una investigación aproximadamente una semana antes de la disculpa. El primer ministro Anthony Albanese calificó la intrusión de “inaceptable” y dijo que el Gobierno estaba sopesando posibles medidas legales. OpenAI no respondió de inmediato a una solicitud de comentarios.
Comentarios
0Aún no hay comentarios. Escribe el primero.