Risker med AI-suveränitet sätter styrning och insyn i fokus

Företag kan förlora tillgången till AI-verktyg med kort varsel när myndighetsbeslut, regler och leverantörers policyer förändras. En tvist med Anthropic i juni visar hur snabbt det kan ske, enligt Jon Abbott, skribent för TechRadar Pro Perspectives.

I juni släppte Anthropic två av sina hittills mest kapabla AI-modeller. Inom några dagar beordrade USA:s regering företaget att stänga av åtkomsten för alla användare utanför landet med hänvisning till nationella säkerhetsintressen. Anthropic kunde inte på ett tillförlitligt sätt kontrollera var användarna loggade in från och drog därför tillbaka båda modellerna för alla, även för kunder i USA. Två och en halv vecka senare hävdes begränsningarna och åtkomsten återställdes. En av modellerna är fortfarande begränsad till ett litet antal godkända organisationer i USA.

Abbott skriver att företag bör förbereda sig på förändringar i AI-åtkomst, funktioner och styrningskrav i stället för att försöka förutsäga nästa avbrott. Han rekommenderar att kartlägga var AI används, vilka team och processer som är beroende av varje verktyg och att ha en beredskapsplan. Företag behöver också veta vilka data varje verktyg kan komma åt och vilka som får använda det.

Artikeln säger att AI-förmågor är koncentrerade till ett litet antal leverantörer, medan exportkontroller för avancerad AI fortfarande utformas. Den beskriver också en överenskommelse mellan Anthropic och USA:s regering om hur framtida risker ska rapporteras och granskas. Abbott menar att företag behöver insyn i sin AI-användning och testade kontinuitetsplaner, samtidigt som den oberoende granskningen av modellsäkerhet bör stärkas.