Empresas y gobiernos están considerando agentes de IA para tareas como conciliar cuentas, negociar con proveedores, firmar documentos y presentar trámites públicos. Pero cuando estos sistemas actúan de forma independiente, la capacidad es solo una parte del desafío.
La cuestión central es la responsabilidad: ¿quién autorizó al agente, a quién representa, dónde terminan sus facultades y quién responde cuando algo sale mal? Un modelo más avanzado no resolverá por sí solo esa brecha.
El artículo sostiene que los agentes necesitan límites claros de permisos y un registro de auditoría que vincule cada acción con la persona que la autorizó. Los permisos podrían permitir que un agente consulte información financiera sin modificarla, prepare un pago sin aprobarlo o haga pedidos a proveedores concretos sin superar un importe fijo. También podrían caducar después de una operación, una jornada laboral o un contrato específico, y la autorización podría revocarse sin cambiar las credenciales de la persona responsable.
Estonia comenzó a desarrollar en junio un sistema estatal de registro de agentes de IA. Según la propuesta actual, una persona recibiría un identificador numérico registrado que podría vincularse a uno o varios agentes. Las operaciones se considerarían acciones realizadas por una máquina, mientras que la persona física actuaría como ancla de identidad y seguiría siendo responsable dentro del marco de autorización.
La propuesta se basa en las identidades digitales de Estonia y en sus sistemas de permisos delegados. El artículo concluye que los agentes de IA necesitan un marco técnica y jurídicamente vinculante que defina a quién representan, qué pueden hacer y quién mantiene la responsabilidad.
Comentarios
0Aún no hay comentarios. Escribe el primero.