Att inte göra något är den största AI-säkerhetsrisken

Företag möter växande säkerhetsrisker när de börjar använda artificiell intelligens, men att helt avstå från AI innebär också risker, enligt en artikel av Ken Bastiaensen i TechRadar Pro Perspectives.

Artikeln skriver att AI-agenter kan skynda på repetitiva arbetsuppgifter, men kan behöva åtkomst till företagssystem för exempelvis bokföring, rapportering, dokumenthantering och kundhantering. Om åtkomsten hanteras dåligt kan känslig information om kunder, anställda eller investerare röjas.

Ett hot är prompt injection: stora språkmodeller kan ha svårt att skilja data från instruktioner, så en agent kan följa skadliga anvisningar som gömts i ett mejl, dokument eller en webbsida. Ett annat hot är dataläckor, till exempel när konfidentiell information hamnar i en webbsökning eller en URL. Artikeln kallar kombinationen av opålitliga indata, åtkomst till känsliga uppgifter och externa åtgärder för ”Lethal Trifecta”.

Artikeln hänvisar till Turbotic-forskning som visar att 51% av företagsledarna oroar sig för att anställda matar in känsliga företagsuppgifter i otillåtna AI-verktyg, medan 36% oroar sig för AI-användning utan tillsyn. Artikeln kallar detta ”Shadow AI” och menar att grundproblemet är brist på spårbarhet och mänsklig granskning.

Den förespråkar tydliga regler för godkända verktyg, dataåtkomst och tillåtna åtgärder, tillsammans med granskningsrutiner och mänsklig tillsyn. Den hänvisar också till en rapport från World Economic Forum och Accenture, enligt vilken färre än 1% av organisationerna har infört ansvarsfull AI fullt ut i verksamheten. Bastiaensen menar att företag bör införa tydliga och granskningsbara gränser i takt med att AI-användningen ökar.