IBM-rapport visar att företagens AI-entusiasm springer före styrningen

Företag vill i allt högre grad utöka sin användning av artificiell intelligens, men en ny rapport från IBM tyder på att styrningen inte håller jämna steg. Rapporten bygger på en undersökning av fler än 3 000 företagsledare i Europa, Mellanöstern och Afrika (EMEA).

Fyra av fem svarande (80 %) uppgav att en AI-relaterad incident hade nått styrelsen eller företagsledningen under det senaste året. Exemplen omfattade ett agentfel, röjda uppgifter, ett AI-drivet beslutsfel eller ett AI-säkerhetsintrång. Ändå uppgav färre än hälften (40 %) att deras organisation skulle ändra sin policy eller sina ramverk för AI-styrning som svar.

Tre fjärdedelar (75 %) räknar med att AI-agenter ska ha en viss självständighet i beslutsfattandet senast 2027, medan bara 37 % anser att deras styrning är utformad för att kunna skalas upp i takt med användningen av agentbaserad AI. Nästan alla svarande (98 %) sade att ansvaret för AI-risker formellt hade tilldelats på styrelsenivå; 26 % uppgav att det fanns en särskild AI-kommitté på styrelsenivå.

Åsikterna om juridiskt ansvar går fortfarande isär. De svarande nämnde formella juridiska eller avtalsmässiga ramverk som fastställer leverantörers ansvar vid agentfel (33 %), fastställda trösklar för eskalering till människor (32 %), realtidsövervakning och granskningsspår för agenters beslut och handlingar (30 %) samt möjligheten att omedelbart stoppa agentaktivitet i hela företaget (29 %) som styrningsåtgärder.

Ana Paula Assis, senior vice president och ordförande för EMEA och APAC på IBM, sade att AI-debatten har gått från införande till styrning och ansvarsskyldighet. Hon sade att styrningen måste byggas in i hur agenter arbetar, med tydliga gränser, ansvarsfördelning och kontroller i realtid.