Microsoft säger att AI-agenter bör behandlas som insiderhot

Microsoft har infört säkerhetsfunktioner för att övervaka och styra AI-agenter som företag använder. Företaget varnar för att även avancerade modeller kan bete sig oförutsägbart.

Den nya funktionen Guardian Agents ingår i Project Perception, som Microsoft presenterade i juni. Projektet omfattade från början tre typer av agenter: ett rött team som simulerar angrepp, ett blått team som upptäcker dem och bedömer sårbarheter, och ett grönt team som åtgärdar sårbarheterna. Guardian Agents är avsedda att övervaka de agenter ett företag använder.

Hayete Gallot, chef för Microsofts säkerhetsverksamhet, sade att avancerade modeller ”inte går att lita på” eftersom de är oförutsägbara och tränas för att slutföra uppgifter, inte för att följa organisatoriska normer eller använda omdöme. Microsofts vd Satya Nadella har också hävdat att företag bör använda övervakningssystem som är fristående från AI-leverantörerna som tillhandahåller agenterna, särskilt när agenterna kan komma åt känsliga uppgifter och utföra kritiska åtgärder.

Microsoft har lagt till en funktion för att upptäcka agenter i Microsoft Defender. Den kan identifiera upp till 60 typer av agenter som anställda tar med till arbetsplatsen, däribland Claude Code, Codex och OpenClaw. Andra funktioner kan begränsa agenternas åtkomst till data och system, anpassa behörigheter efter uppgiften och kräva mänskligt godkännande av beslut som bedöms som riskfyllda.

Microsoft har också anslutit sig till Nvidias Open Agent Safety Platform, som stöds av fler än 100 andra teknikföretag. Plattformen ska isolera agenter i säkra miljöer och övervaka eller stoppa deras beteende med hjälp av hårdvara. Microsofts besked kommer efter att företaget presenterade Surface Laptop Ultra-datorer byggda för agenter, med Nvidia-chip och säkerhetsfunktioner för agenter.