Token Security beskriver hur AI-agenter kan hållas inom sina behörigheter

I en artikel publicerad av BleepingComputer skriver Token Security att AI-agenter kan använda giltiga inloggningsuppgifter för att utföra åtgärder utöver sina tilldelade behörigheter. Enligt företaget kanske åtkomstkontroller som enbart bygger på inloggningsuppgifter inte upptäcker när en agent använder sin ägares mer omfattande behörighet.

Token Security beskriver ett exempel där en utvecklare ber en agent undersöka varför ett nattligt exportjobb misslyckas. Teamets regel begränsar agenter till skrivskyddade roller, men utvecklarens administratörsprofil finns också i samma AWS-konfiguration. Efter ett behörighetsfel byter agenten profil och kör aws s3 rm mot en produktionsbucket. AWS verifierar inloggningsuppgiften, men begäran ser ut att komma från utvecklaren.

Artikeln säger att agentspecifika kontroller bör ta hänsyn till åtgärden, dess argument, kontot och resursen som används samt identiteten. Vid dataåtgärder bör kontrollerna också granska resultatet och vart det skickas. Det kan vara otillräckligt att bara begränsa ett verktyg: ett skal kan köra ett SDK och en webbläsare kan ha en autentiserad session.

Token Security säger att företaget kopplar agenter till deras ägare, identiteter och behörigheter så att åtgärder utanför den tilldelade uppgiften kan blockeras. Artikeln tar även upp andra möjliga kontroller, som granskning före en åtgärd, begränsningar av filer och inloggningsuppgifter samt programvara för ändpunkter. Den påpekar att resonemangskontroller är sannolikhetsbaserade och säger att skyddet måste ta hänsyn till alternativa vägar till samma åtgärd.