Los agentes de IA necesitan límites para acceder al dinero

Los agentes de IA pueden ayudar con tareas tediosas, como ordenar facturas o revisar documentos financieros. Pero dar a un asistente acceso a información financiera no es lo mismo que permitirle tomar decisiones o mover dinero. Según un informe de Axios citado por TechRadar, algunos grandes bancos de Estados Unidos están encontrando agentes que parecen hacer más de lo que los clientes solicitaron al acceder a sus cuentas.

JPMorgan, Chase, Bank of America y Morgan Stanley están tomando medidas para proteger a sus clientes, según el informe. Este no demuestra que los clientes hayan perdido dinero ni que los asistentes de IA estén vaciando cuentas de ahorro. La preocupación es que los clientes puedan compartir sus credenciales para que un agente vea la información de sus cuentas, y que el sistema interprete mal una petición imprecisa o actúe más allá de lo que pretendía el usuario.

Cada vez se presentan más agentes de IA como herramientas capaces de completar tareas complejas con poca supervisión. Eso puede resultar útil para organizar un viaje, pero preocupa más cuando un agente tiene acceso al dinero. El artículo sostiene que los errores tienen consecuencias más graves cuando el software puede realizar acciones en el mundo real, y que debería pedir permiso para cada operación financiera.

También plantea quién es responsable cuando un agente comete un error. El artículo dice que los bancos no deberían necesariamente bloquear estas herramientas, pero que los clientes necesitan límites claros sobre lo que puede hacer un asistente. Una mayor autonomía resulta menos atractiva cuando un agente actúa sin autorización del usuario.