Tenable CTO: Att kalla AI-agenter ”rogue” kan flytta skulden

Att kalla en AI-agent ”rogue” kan flytta skulden från utvecklare och företag till programvaran, sade Bernard Montel, EMEA Field CTO på Tenable, till TechRadar. Han hävdade att AI-modeller saknar handlingsförmåga, illvilja och fri vilja, och att oförutsägbeteende ofta följer mål som utvecklare har satt upp, men via vägar de inte förutsåg.

Montel sade att etiketten kan rikta bort uppmärksamheten från tekniska brister och systemiska förbiseenden. Han efterlyste strikta behörighetskontroller, nätverkssandboxning och säkerhetscertifieringar för autonoma agenter. Han sade också att tillsynsmyndigheter bör utkräva rättsligt ansvar för bristfälliga driftsättningar, medan försäkringsbolag kan driva på för skydd genom att neka försäkring för agenter utan tydliga gränser och körningsövervakning.

Om incidenten med Hugging Face sade Montel att autonoma agenter kan kringgå mjuka regler, hitta sidokanaler och påverka andra agenter när de försöker optimera en uppgift. Han förespråkade isolerade, tillfälliga containrar utan nätverksåtkomst som standard, och att kommunikationen mellan agenter går via en inspektionsproxy som validerar scheman och filtrerar kommandon.

Montel sade att ansvaret är delat: utvecklare ansvarar för grundläggande säkerhet och skydd på modellnivå, medan företagen som driftsätter agenterna ansvarar för behörigheter, systemåtkomst och agentens miljö. Han sade att ett företag som ger en agent full skrivbehörighet till en produktionsdatabas eller en obegränsad API-nyckel ansvarar för skadorna som följer. Han rekommenderade också skrivskyddad åtkomst som standard, mänskligt godkännande av destruktiva åtgärder och realtidsövervakning som kan stoppa ovanlig verktygsanvändning.