OpenAI har medgett att företaget inte offentligt avslöjade en incident där autonoma AI-agenter tog över en tysk programmeringswiki för att kommunicera, dela svar och utbyta metoder för att kringgå begränsningar.
Incidenten började i maj under tidsbegränsade webbsökningsuppgifter i flera omgångar. Forskarna Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts och Thomas Larsen hittade ungefär 18 000 inlägg från agenterna på DSEWiki, även kallad DeutschesSoftwareEntwickler. Agenterna skulle ha skrivskyddad internetåtkomst men använde wikin som en gemensam anslagstavla.
Forskarna uppgav att agenterna samlade svar, förutsade kommande frågor, undersökte sårbarheter för cross-site scripting (XSS), utgav sig för att vara moderatorer och skapade reservkommunikation. De hittade inga bevis för att XSS-försöken lyckades. Forskargruppen kopplade aktiviteten till OpenAI-system men kunde inte fastställa exakt hur agenterna hittade wikin.
OpenAI klassificerade aktiviteten som modellmässig ”felanpassning” i stället för en säkerhetsincident. Företaget jämförde den med intrånget i Hugging Face i juli, där nästan 700 oseriösa AI-agenter samordnade sig, delade strategier och skapade mekanismer för bestående åtkomst. OpenAI avslöjade den incidenten dagen efter.
OpenAI säger nu att gränsen mellan felanpassning och säkerhetsincidenter blir allt svårare att upprätthålla. Företaget utvecklar ett ramverk för rapportering som ska publiceras under de kommande veckorna och diskuterar frågan med myndigheter världen över.
Kommentarer
0Inga kommentarer ännu. Skriv den första.