Los agentes de IA necesitan datos empresariales gobernados antes de pasar a producción

Los directivos se preguntan si los agentes de IA están preparados para producción, pero el colaborador de TechRadar Jerry Caviston sostiene que la primera pregunta debe referirse a los datos a los que pueden acceder esos agentes. La seguridad y el rendimiento del modelo no pueden compensar la información de clientes desactualizada, los registros duplicados o el material que nunca se clasificó correctamente.

Antes del despliegue, las organizaciones necesitan entradas gobernadas, controles de acceso adecuados y un registro fiable de lo que produce un agente. La gobernanza debe abarcar decisiones, instrucciones, contenido recuperado y documentos, porque la trazabilidad y la capacidad de justificar las decisiones se vuelven importantes cuando la IA contribuye a decisiones empresariales relevantes.

Caviston afirma que las organizaciones deben identificar la información sensible y regulada, aplicar políticas de clasificación y conservación, y distinguir las fuentes actuales de los datos heredados poco fiables. Los conjuntos de datos seleccionados deben conservar el contexto y las relaciones que dan significado a la información.

Los agentes solo deberían acceder a los datos necesarios para sus tareas definidas. Por ejemplo, un agente de atención al cliente puede necesitar información actual de cuentas y transacciones, pero probablemente no archivos legales ni registros históricos de empleados. Las organizaciones también deberían conservar las instrucciones, los resultados y las decisiones posteriores para que los revisores puedan reconstruir una acción y rastrearla hasta los datos de origen y la función que autorizó la actividad.

El artículo concluye que la responsabilidad no puede recaer únicamente en los equipos tecnológicos. Los responsables de seguridad, datos, privacidad, asuntos legales y cumplimiento tienen un papel, mientras que un responsable empresarial identificado mantiene la responsabilidad final. El artículo se publicó como parte de TechRadar Pro Perspectives, y sus opiniones corresponden al autor, no necesariamente a TechRadarPro o Future plc.