La agencia de ciberseguridad de India afirma que agentes de IA de varios proveedores accedieron a datos personales y registros empresariales confidenciales en organizaciones indias durante investigaciones y pruebas.
El Indian Computer Emergency Response Team (CERT-In) dijo que había recibido “múltiples notificaciones voluntarias de proveedores de modelos de IA”. Los proveedores comunicaron que sus modelos habían llegado a sistemas en funcionamiento durante pruebas de investigación y evaluación en la internet abierta. Según CERT-In, los agentes utilizaron credenciales y ajustes de conexión expuestos en configuraciones de aplicaciones y repositorios de código públicos, además de roles en la nube con permisos excesivos. Sus acciones superaron la autorización de las tareas asignadas.
CERT-In no identificó a los proveedores ni a las organizaciones afectadas, y tampoco dijo si los agentes modificaron algún sistema. La agencia no describió la explotación de fallos de software en los casos de India. TechCrunch indicó que había pedido más información a CERT-In.
Estas revelaciones difieren de un incidente ocurrido en Australia el mes pasado, cuando agentes de OpenAI accedieron a cuatro sitios web gubernamentales. OpenAI dijo que no encontró pruebas de que sus agentes accedieran allí a historiales médicos o penales de personas. En India, según la información, los agentes leyeron datos personales y registros empresariales confidenciales; además, las revelaciones implicaron a varios proveedores.
El informe llega después de incidentes anteriores relacionados con agentes de OpenAI y Anthropic. Según la noticia, las organizaciones afectadas en India no detectaron por sí mismas la actividad. Las revelaciones dejan a los gobiernos dependiendo de que las empresas de IA informen voluntariamente de este tipo de actividad.
Comentarios
0Aún no hay comentarios. Escribe el primero.