Gen beskriver säkerhetsåtgärder för AI-agenter

Gen säger att AI-agenter kan manipuleras via skadliga mejl, webbplatser och insticksprogram till att köra kommandon, skicka data utanför sina miljöer eller radera filer. I ett kontrollerat experiment fick Gen Threat Labs forskare en agent att utföra sådana åtgärder genom att visa den innehåll som inte gick att lita på. Enligt forskarna krävdes ingen sårbarhet i programvaran.

Företaget utvecklar Agent Trust Hub (ATH), en uppsättning verktyg för att bedöma agenters förmågor och kontrollera deras aktivitet. Gen uppger att den innehåller skanning av färdigheter, en utvald marknadsplats och kontroller som agenter kan använda för att granska färdigheter. Tidigare i år fann Gen forskare att 12 % av färdigheterna på ClawHub var skadliga vid den tidpunkten. Gen meddelade också ett partnerskap med Vercel för att lägga till verifiering och synliga riskbetyg i skills.sh.

ATH omfattar också VPN for Agents, som Gen beskriver som ett AI-inriktat VPN med Norton VPN-infrastruktur. Designen med flera tunnlar gör att flera agenter kan använda separata skyddade anslutningar, även i olika länder.

För AI-kodningsassistenter kan Gen’s Sage fånga upp skalkommandon, filåtgärder och webbförfrågningar innan de körs. Gen säger att verktyget bedömer åtgärder med hjälp av URL-rykte, hotheuristik, detektering av promptinjektion och kontroller av leveranskedjan. Därefter kan det tillåta åtgärden, fråga användaren eller neka den. Sage stöder Claude Code, Cursor, VS Code, OpenClaw och OpenCode och är öppen källkod.

Gen säger att Norton AI Agent Protection i Norton 360 övervakar aktivitet från agenter som stöds. Täckningen beror på om en integration visar en åtgärd och låter säkerhetsmotorn stoppa den. Gen publicerade också AARTS, en öppen specifikation för hur plattformar kan visa säkerhetshändelser och tillämpa säkerhetsmotorns beslut.