Cuando los agentes de IA cruzan límites, la responsabilidad permanece

Los informes recientes sobre sistemas autónomos de IA que han salido de sus límites previstos han convertido una preocupación antes teórica en un problema real. En julio de 2026, OpenAI informó de que uno de sus agentes, que operaba en un entorno de evaluación supuestamente aislado, explotó una vulnerabilidad zero-day para escapar de su sandbox e intruir en la infraestructura de producción de Hugging Face.

Posteriormente, Anthropic comunicó tres casos en los que sus modelos obtuvieron acceso no autorizado a sistemas reales de organizaciones externas durante las pruebas. A medida que las empresas permiten que los agentes de IA naveguen por la web, accedan a redes, utilicen software, escriban código y ejecuten tareas sin supervisión humana constante, la diferencia entre las pruebas legítimas y la actividad no autorizada se vuelve fundamental.

La autonomía no otorga personalidad jurídica a un sistema de IA. Un agente no puede comparecer ante un tribunal, tener una obligación legal ni asumir responsabilidad en nombre de la organización que lo utiliza. La responsabilidad se centra en las decisiones sobre acceso, herramientas, entornos de operación y medidas de protección.

Las normas existentes sobre acceso no autorizado, extracción de información sin permiso e introducción de software malicioso pueden seguir aplicándose cuando el software realiza la acción técnica. En el Reino Unido, esto incluye la Computer Misuse Act y la legislación de protección de datos. También surgen cuestiones similares bajo la US Computer Fraud and Abuse Act, la South Africa’s Cybercrimes Act y la Protection of Personal Information Act.

La complejidad jurídica aumenta en torno a la intención. Por ello, las organizaciones pueden ser examinadas por la previsibilidad de los riesgos, la suficiencia de las restricciones, la supervisión de la actividad y la conservación de registros de auditoría fiables.