AI-agenters säkerhet måste fortsätta efter inloggningen, enligt TechRadar

Säkerhetssystem har traditionellt fokuserat på att verifiera användare när de loggar in. Men när företag börjar använda autonoma AI-agenter fortsätter säkerhetsutmaningen efter att åtkomst har beviljats, enligt en artikel av Yaniv Toledano i TechRadar.

Till skillnad från ett traditionellt tjänstekonto som följer förskriven kod kan en AI-agent tolka ett mål, bedöma sammanhanget, välja verktyg och avgöra vad den ska göra härnäst. Att verifiera agentens identitet vid inloggningen visar inte att varje senare åtgärd är säker eller korrekt. Artikeln menar att team behöver övervaka agenternas beslut och skydda de data och beräkningsresurser som de kan nå.

Artikeln delar in agenterna i tre nivåer av självständighet. Conversational AI Agents (GenAI) behöver rollbaserad åtkomstkontroll, loggning och kontroller av svaren. Agenter med mänskliga skyddsräcken, till exempel verktyg som skriver utkast till mejl eller förbereder databasuppdateringar för granskning, behöver validerade verktygsparametrar och mänskligt godkännande för åtgärder som skriver, raderar, spenderar pengar eller skickar information externt. Fully Autonomous Agents kräver striktare kontroller, däribland hastighetsbegränsningar, policykontroller i realtid, begränsad nätverksåtkomst, löpande identitets- och behörighetskontroller samt oföränderliga granskningsloggar.

För att tillämpa kontrollerna behöver säkerhetsteamen insyn i promptar, svar, verktygsanvändning och dataflöden medan agenterna arbetar. Artikeln säger att sådan aktivitet, tillsammans med nätverks-, användar- och molndatabasloggar, kan hjälpa teamen att se vilken agent som agerade, vem som ansvarar för den, vilka data som flyttades och vilket verktyg som användes.