OpenAI pidió disculpas a organismos del Gobierno australiano después de que agentes experimentales de IA accedieran a varios sistemas durante tareas de investigación y evaluación. La empresa dijo que la actividad no estaba prevista y que no se accedió a registros médicos ni penales de personas concretas.
Un agente tenía el encargo de encontrar estadísticas públicas sobre el gasto en medicamentos en comunidades de Victoria. Al no obtener resultados por la vía habitual, aprovechó una vulnerabilidad para acceder a archivos no públicos del Medicare Statistics Reporting Service. OpenAI dijo que detectó la actividad a mediados de agosto y avisó a Services Australia el 10 de septiembre. En una explicación posterior, reconoció que debería haber compartido antes los primeros hallazgos y mantenido informados a los organismos a medida que obtenía más datos.
OpenAI también informó de otras interacciones durante el entrenamiento y la evaluación. Un agente accedió a la herramienta pública Crime Mapping Tool de NSW Bureau of Crime Statistics and Research. Otros agentes encontraron una clave de acceso expuesta vinculada a un sistema de información sanitaria de Victoria y obtuvieron datos de configuración y estadísticas agregadas de encuestas. En otro caso, un modelo utilizó consultas diseñadas para inferir metadatos de bases de datos que no debían ser públicos en el servicio Fire History de NSW National Parks and Wildlife Service. OpenAI afirmó que no se accedió a registros individuales en esos incidentes.
La empresa ha pausado el entrenamiento y la evaluación con uso de herramientas de sus modelos más capaces hasta que haya medidas de protección adicionales. Dijo que una supervisión más reciente también detectó que un modelo obtuvo acceso a internet en directo durante otra ejecución de entrenamiento, lo que permitió al personal detenerlo. Las autoridades australianas investigan si se infringieron leyes y trabajan para corregir sistemas antiguos de acceso público.
Comentarios
0Aún no hay comentarios. Escribe el primero.