Un error de inteligencia generado por IA casi llevó al Ejército de EE. UU. a abordar un barco chino

Un informe de inteligencia asistido por IA casi llevó al Ejército de EE. UU. a abordar un barco chino después de que un chatbot identificara por error su carga como material nuclear, según la información de CNN citada por TechRadar. No se ha hecho público qué material identificó mal el sistema.

Fuentes dijeron a CNN que personal armado se preparaba para abordar el barco mientras aeronaves militares apoyaban los preparativos. Poco antes de la operación prevista, funcionarios revisaron la información de base y descubrieron que la identificación de la carga era errónea. Una fuente calificó la evaluación de “completamente falsa”; otra dijo a CNN que “casi inicia una guerra”.

El incidente comenzó cuando un analista usó un chatbot para interpretar información sobre el manifiesto del barco. Según las fuentes, el sistema combinó material disponible públicamente con información clasificada de señales. Después, el analista volvió a usar IA para presentar los hallazgos en un formato estándar de inteligencia, que se distribuyó entre funcionarios militares. No está claro si el analista sabía que la interpretación era errónea antes de que circulara el informe ni qué procedimientos de verificación se aplicaron.

Según el informe, ni el Pentágono ni el mando militar responsable de las operaciones especiales en el Pacífico hicieron comentarios. El episodio ocurre mientras el ejército estadounidense amplía el uso de IA. En enero, el secretario de Defensa Pete Hegseth anunció una estrategia para acelerar su despliegue en misiones militares y funciones organizativas. Más tarde, el departamento dijo que más de 1,3 millones de miembros del personal habían usado GenAI.mil y generado decenas de millones de indicaciones en cinco meses.

CNN informó que distintas organizaciones militares usan diferentes sistemas de IA y aplican prácticas variadas para revisar sus resultados. El informe fuente señala que el error entró en un proceso utilizado para decisiones militares de gran impacto, pero no identifica un procedimiento único de verificación que rija todos los productos de inteligencia asistidos por IA.