El riesgo de la IA en las finanzas pasa de las respuestas a las acciones

El sector financiero está pasando de una IA que responde preguntas a sistemas que ejecutan acciones. El Financial Services Adoption Plan del Gobierno británico insta al sector a ampliar el uso de la IA en procesos centrales, como investigar fraudes, tramitar reclamaciones y apoyar el cumplimiento normativo.

Ese cambio dificulta seguir la pista de la responsabilidad. La explicabilidad del modelo es solo una parte del reto: las empresas también necesitan saber a qué sistemas accedió un agente, qué hizo y dónde una persona revisó o modificó sus acciones. Nikhil Rathi, director ejecutivo de la Financial Conduct Authority (FCA), describió el papel de esta tecnología como el de empezar a «coordinar y realizar transacciones».

Según la fuente, el 48 % de los directivos del sector financiero del Reino Unido (UK) afirma que sus empresas utilizan IA agéntica, mientras que más de una cuarta parte señala que carece de controles o que estos son limitados para garantizar el cumplimiento de las leyes y regulaciones. Los agentes pueden pasar de un sistema y una herramienta a otros, y distribuir las decisiones a lo largo del flujo de trabajo en vez de asignarlas claramente a responsables.

En una reclamación de seguros, por ejemplo, un agente podría reunir pruebas y remitir el caso a una revisión más exhaustiva; otro podría contactar con el cliente o recomendar retener el pago. Las empresas necesitan información suficiente para reconstruir cómo se llegó a un resultado, incluidos los datos de entrada del agente, las herramientas utilizadas, las reglas aplicadas y cualquier revisión humana.

La fuente sostiene que la supervisión debe guardar proporción con las consecuencias de cada acción. Las tareas administrativas rutinarias quizá solo requieran seguimiento, mientras que restringir una cuenta bancaria, rechazar una reclamación o elevar una acusación de fraude exige una supervisión humana más estricta y la posibilidad de cuestionar o revertir la decisión.

Según la fuente, los agentes de IA pueden reducir el trabajo repetitivo, pero ampliar su uso depende de que haya responsabilidades claras, permisos definidos y registros de todo el flujo de trabajo, incluidas las actividades de servicios de terceros.