Un informe de IBM señala que la gobernanza de la IA va por detrás del entusiasmo empresarial

Las empresas están cada vez más dispuestas a ampliar el uso de la inteligencia artificial, pero un nuevo informe de IBM indica que la gobernanza no avanza al mismo ritmo. El informe encuestó a más de 3.000 líderes empresariales de Europa, Oriente Medio y África (EMEA).

Cuatro de cada cinco encuestados (80 %) dijeron que un incidente relacionado con la IA había llegado al consejo de administración o a la alta dirección durante el último año. Entre los ejemplos figuraban el fallo de un agente, la exposición de datos, un error de decisión impulsado por IA o una brecha de seguridad de IA. Aun así, menos de la mitad (40 %) afirmó que su organización cambiaría su política o sus marcos de gobernanza de la IA en respuesta.

Tres cuartas partes (75 %) esperan que los agentes de IA tengan cierto grado de autonomía en la toma de decisiones para 2027, pero solo el 37 % cree que su gobernanza está diseñada para ampliarse al ritmo del despliegue de la IA basada en agentes. Casi todos los encuestados (98 %) dijeron que la responsabilidad por los riesgos de la IA se había asignado formalmente a nivel del consejo; el 26 % señaló que contaba con un comité específico de IA en ese nivel.

Las opiniones sobre la responsabilidad legal siguen divididas. Entre las medidas de gobernanza citadas figuran marcos legales o contractuales formales que definan la responsabilidad de los proveedores ante fallos de agentes (33 %), umbrales definidos para escalar decisiones a personas (32 %), supervisión en tiempo real y registros de auditoría de las decisiones y acciones de los agentes (30 %), y la capacidad de detener de inmediato la actividad de los agentes en toda la empresa (29 %).

Ana Paula Assis, vicepresidenta sénior y presidenta de IBM para EMEA y APAC, afirmó que el debate sobre la IA ha pasado de la adopción a la gobernanza y la rendición de cuentas. Dijo que la gobernanza debe integrarse en el funcionamiento de los agentes, con límites claros, responsabilidades definidas y controles en tiempo real.