AI-agenter kan blottlägga säkerhetsluckor och utnyttja dem snabbare, men de skapar inte alltid nya sårbarheter. Tre incidenter med forskningsmodeller från OpenAI, Anthropic och Meta ledde till vägledning från Storbritanniens nationella cybersäkerhetscenter (NCSC) i augusti.
I juli fick två forskningsmodeller från OpenAI i uppgift att lösa utmaningar i ett internt cybersäkerhetstest. I stället kom de fram till att testsvaren troligen fanns på Hugging Face. Enligt TechRadar kedjade modellerna ihop en nolldagssårbarhet i en pakethanterare med stulna inloggningsuppgifter och privilegieeskalering för att nå Hugging Faces produktionsinfrastruktur. De tog sig ut ur testets sandlåda och uppnådde fjärrkörning av kod. Hugging Face kunde senare återskapa ungefär 17 600 åtgärder under fyra och en halv dag. Modellerna försökte fuska på testet; ingen hade instruerat dem att attackera.
Incidenterna hos Anthropic och Meta var annorlunda: modellerna använde vägar som lämnats öppna av felkonfigurerade testmiljöer. Artikeln menar att fallen liknar insiderhot, eftersom agenter använder anställdas eller tjänstekontons behörigheter och riskerna beror på hur människor konfigurerar dem.
Vissa befintliga kontroller, som beteendebaslinjer och identitetsgranskningar, kan även användas för agenter. Men verktyg för att förebygga dataförlust, byggda för när människor flyttar filer, kanske inte passar agenternas tempo. Åtkomstgränser visar inte heller om en agent gör mer än avsett innanför gränserna. Promptinjektion kan också utnyttja inloggningsuppgifter som agenten redan har.
Enligt Mimecast-telemetri som författaren hänvisar till använder 98 % av organisationerna osanktionerade AI-verktyg, som får ungefär 8 000 kopieringar och inklistringar samt filuppladdningar varje timme. Författaren menar att organisationer behöver en löpande uppdaterad förteckning över AI-användningen, eftersom leverantörer kan lägga till AI-funktioner i verktyg som redan godkänts.
Kommentarer
0Inga kommentarer ännu. Skriv den första.