No hacer nada es el mayor riesgo de seguridad de la IA

Las empresas afrontan riesgos de seguridad cada vez mayores al adoptar la inteligencia artificial, pero renunciar por completo a la IA también conlleva riesgos, según un artículo de Ken Bastiaensen en TechRadar Pro Perspectives.

El artículo señala que los agentes de IA pueden agilizar tareas repetitivas, pero quizá necesiten acceso a sistemas empresariales de contabilidad, informes, gestión documental y atención al cliente. Si ese acceso se gestiona mal, podría quedar expuesta información confidencial de clientes, empleados o inversores.

Una amenaza es la inyección de instrucciones: los grandes modelos de lenguaje pueden tener dificultades para distinguir los datos de las instrucciones, por lo que un agente podría seguir indicaciones maliciosas ocultas en un correo electrónico, un documento o una página web. Otra es la filtración de datos, por ejemplo, si se incluye información confidencial en una búsqueda web o una URL. El artículo denomina «Lethal Trifecta» a la combinación de entradas no confiables, acceso a datos sensibles y acciones en sistemas externos.

El artículo cita una investigación de Turbotic según la cual el 51% de los líderes empresariales teme que los empleados introduzcan datos confidenciales de la empresa en herramientas de IA no autorizadas, mientras que el 36% está preocupado por el uso de IA sin supervisión. El artículo llama a esto «Shadow AI» y sostiene que el problema central es la falta de trazabilidad y revisión humana.

Propone reglas claras sobre las herramientas autorizadas, el acceso a los datos y las acciones permitidas, además de procesos de revisión y supervisión humana. También cita un informe del World Economic Forum y Accenture según el cual menos del 1% de las organizaciones ha integrado plenamente la IA responsable en sus operaciones. Bastiaensen sostiene que las empresas deben establecer límites transparentes y auditables a medida que se extiende el uso de la IA.