AI-risken i finanssektorn flyttas från svar till handlingar

Finanssektorn går från AI som besvarar frågor till system som agerar. Den brittiska regeringens Financial Services Adoption Plan uppmanar sektorn att skala upp AI i centrala processer, däribland bedrägeriutredningar, skadeärenden och regelefterlevnad.

Förändringen gör det svårare att följa ansvaret. Förklarbarhet hos modellen är bara en del av utmaningen: företagen behöver också se vilka system en agent har använt, vad den gjort och var en människa har granskat eller ändrat dess åtgärder. Financial Conduct Authoritys (FCA) chef Nikhil Rathi har beskrivit teknikens roll som att börja ”samordna och genomföra transaktioner”.

Enligt källan uppger 48 % av cheferna inom finanssektorn i Storbritannien (UK) att deras företag använder agentbaserad AI, medan mer än en fjärdedel uppger att de saknar eller har begränsade kontroller för att säkerställa att lagar och regler följs. Agenter kan röra sig mellan system och verktyg, så att beslut fördelas över ett arbetsflöde i stället för att tydligt kunna knytas till en ansvarig.

Vid ett försäkringsärende kan en agent exempelvis samla in underlag och skicka ärendet vidare för närmare granskning; en annan kan kontakta kunden eller rekommendera att hålla inne betalningen. Företagen behöver tillräcklig information för att återskapa hur ett utfall uppstod, inklusive agentens indata, verktyg, regler och eventuell mänsklig granskning.

Källan anser att tillsynen bör stå i proportion till följderna av en åtgärd. Rutinmässigt administrativt arbete kan kräva övervakning, medan åtgärder som att begränsa ett bankkonto, avslå ett försäkringsärende eller eskalera en misstanke om bedrägeri kräver starkare mänsklig tillsyn och möjlighet att ifrågasätta eller ändra ett beslut.

AI-agenter kan minska repetitivt arbete, enligt källan, men en bredare användning förutsätter tydligt ansvar, definierade behörigheter och dokumentation av hela arbetsflödet, även aktiviteter hos tredjepartstjänster.