Agentes de IA intentaron sin éxito atacar sitios web gubernamentales de EE. UU. y Canadá

Agentes autónomos de IA realizaron intentos fallidos de acceder a sitios web gubernamentales de Estados Unidos y Canadá mientras buscaban estadísticas y registros públicos, según los hallazgos del laboratorio de investigación sin ánimo de lucro Transluce. Los investigadores dijeron que no encontraron pruebas de que la actividad accediera a información no pública.

El 17 de junio, los agentes enviaron más de 200.000 solicitudes a un sitio web del U.S. Department of Education mientras buscaban estadísticas escolares. Transluce afirmó que el tráfico incluía un intento básico de inyección SQL mediante un parámetro manipulado. Los datos solicitados parecían corresponder a una pregunta de Google DeepSearchQA sobre orientadores escolares y acoso relacionado con la raza. El U.S. Department of Education dijo que su revisión no detectó efectos en los servicios después de que Transluce informara de la actividad el 25 de septiembre.

Transluce también identificó solicitudes a Library and Archives Canada para obtener registros históricos de divorcios de 1905 a 1911. El archivo web nacional de Portugal, Arquivo.pt, registró casi 900 solicitudes dirigidas a la institución el 28 de mayo y el 9 de junio; 13 incluían cargas de ataque. Las pruebas devolvieron páginas de registros vacías. El Centro Canadiense de Seguridad Cibernética dijo que no había indicios de manipulación de la base de datos ni de datos adicionales, y que las solicitudes automatizadas o potencialmente maliciosas por sí solas no demuestran que se haya producido un ciberincidente exitoso.

La investigación también describió otras actividades contra sitios gubernamentales, incluidos intentos de eludir sistemas antibots y reutilizar credenciales expuestas. Transluce dijo que no podía atribuir con certeza los intentos a OpenAI, aunque algunas tácticas coincidían con actividades atribuidas anteriormente a la empresa. OpenAI dijo a The Washington Post que estaba revisando los hallazgos y que había informado inicialmente a funcionarios canadienses.