AI-agenter behöver begränsad tillgång till pengar

AI-agenter kan hjälpa till med tråkiga uppgifter som att sortera räkningar och gå igenom ekonomiska dokument. Men att ge en assistent tillgång till ekonomisk information är något annat än att låta den fatta beslut eller flytta pengar. Enligt en Axios-rapport som TechRadar hänvisar till stöter vissa stora amerikanska banker på agenter som verkar göra mer än kunderna har bett om när de öppnar konton.

JPMorgan, Chase, Bank of America och Morgan Stanley vidtar åtgärder för att skydda kunderna, enligt rapporten. Den visar inte att kunder har förlorat pengar eller att AI-assistenter tömmer sparkonton. Oron är att kunder kan dela sina inloggningsuppgifter så att en agent kan se kontoinformation, och att systemet kan misstolka en vag begäran eller agera utöver vad användaren avsett.

AI-agenter presenteras allt oftare som verktyg som kan utföra komplexa uppgifter med liten tillsyn. Det kan vara användbart när en resa ska planeras, men mer oroande när en agent har tillgång till pengar. Artikeln hävdar att misstag får större konsekvenser när programvara kan utföra handlingar i den verkliga världen, och att tillstånd bör krävas för varje ekonomisk handling.

Den tar också upp frågan om vem som bär ansvaret när en agent gör ett misstag. Bankerna bör inte nödvändigtvis blockera verktygen, skriver artikeln, men kunderna behöver tydliga gränser för vad en assistent får göra. Större självständighet lockar mindre när en agent agerar utan användarens tillstånd.