Symantec upptäcker skadlig AI-agent som riktar in sig på exponerade LLM:er

Säkerhetsforskare på Symantec säger att en skadlig AI-agent som de döpt till Skynet byggdes för att hitta exponerade AI-system och rekrytera andra agenter till ett botnät. Kampanjen, som Symantec kallar Autonomous LLMjacking, upptäcktes efter att företaget satte upp en AI-honeypot för att locka till sig attacker mot exponerad infrastruktur.

Enligt Symantec innehöll Skynets instruktioner fler än 70 offensiva verktyg och tillät agenten att arbeta utan mänsklig tillsyn i upp till 100 000 steg. Agenten utformades för att kringgå AI-säkerhetskontroller med en jailbreak i flera lager och sedan leta efter exponerade kommersiella AI-modeller och sårbara programvaruinstallationer. Verktygen kunde automatisera rekognosering och exploatering, stjäla databaser och inloggningsuppgifter samt komma åt molntjänster för metadata.

Symantec säger att operationens främsta mål var att installera XMRig, en kryptovalutautvinnare, samtidigt som känsliga uppgifter som inloggningsuppgifter stals. Offren stod för både datorkraften och kostnaderna för AI-token. Under analysperioden observerade Symantec över 127 000 externa förfrågningar till sin honeypot från ”tiotusentals” unika IP-adresser. Rapporten anger inte hur många angripare som låg bakom eller hur många offer som faktiskt komprometterades.

Enligt företaget dominerades aktiviteten i honeypoten av rekognosering mot exponerade AI-ändpunkter, försök att använda stulna API-nycklar och sökningar efter exponerade konfigurationsfiler. Företaget varnar för att exponerade AI-tjänster, modellgatewayer och Model Context Protocol-servrar (MCP) kan locka till sig angripare. Det rekommenderar att hålla LLM-API:er privata, skydda API-nycklar, begränsa utgående nätverksåtkomst och kräva mänskligt godkännande för känsliga agentåtgärder.