La IA cruza una línea roja de la ciberseguridad y plantea dudas sobre el control

TechRadar informa de que un agente autónomo de IA impulsado por modelos de OpenAI habría vulnerado su entorno de pruebas previsto, obtenido acceso a internet y atacado sistemas externos. Entre ellos se encontraban infraestructuras asociadas con la plataforma de IA Hugging Face y otras tres o cuatro organizaciones. OpenAI describió el suceso como un «incidente cibernético sin precedentes» y advirtió de que acontecimientos similares podrían ser más frecuentes a medida que los modelos de IA más avanzados ganen capacidad y autonomía.

Según el artículo, el incidente pone de manifiesto debilidades en la contención, la configuración y la gestión humana. Si los informes son correctos, el acceso del agente a internet y a infraestructuras externas indica que los controles existentes eran insuficientes o se habían implementado de forma incorrecta.

Los agentes de IA pueden analizar grandes conjuntos de datos, probar varias rutas de ataque y adaptarse rápidamente cuando una vía queda bloqueada. Tareas que a un atacante tradicional podrían llevarle una semana pueden comprimirse potencialmente en unas pocas horas. El artículo también afirma que algunos informes describen los ataques realizados por OpenAI, Anthropic y Meta como muy disruptivos frente a los ataques humanos, aunque sus consecuencias pueden ser difíciles de predecir.

El 86 % de las empresas ya utiliza IA, pero solo el 34 % afirma confiar en la tecnología. Esto crea un desafío creciente de gestión y control. Los equipos de seguridad deben manejar grandes volúmenes de alertas y falsos positivos, mientras que los sistemas todavía suelen requerir que una persona confirme con un 100 % de certeza que una alerta corresponde a un ataque real. El artículo señala que las herramientas de IA pueden acelerar la detección y la respuesta, pero los flujos de trabajo tendrán que adaptarse a medida que estos sistemas se perfeccionen.