Symantec, açık LLM’leri hedefleyen zararlı yapay zekâ ajanını tespit etti

Symantec’teki güvenlik araştırmacıları, Skynet adını verdikleri zararlı bir yapay zekâ ajanının açık yapay zekâ sistemlerini bulmak ve diğer ajanları bir botnet’e katmak üzere tasarlandığını söylüyor. Symantec’in Autonomous LLMjacking adını verdiği kampanya, şirketin açık altyapılara yönelik saldırıları çekmek için bir yapay zekâ tuzağı kurmasının ardından tespit edildi.

Symantec’e göre Skynet’in talimatlarında 70’ten fazla saldırı aracı bulunuyordu ve ajan, insan denetimi olmadan 100.000 adıma kadar çalışabiliyordu. Ajan, çok katmanlı bir jailbreak kullanarak yapay zekâ güvenlik kontrollerini aşmak, ardından açık ticari yapay zekâ modellerini ve savunmasız yazılım kurulumlarını aramak üzere tasarlanmıştı. Araçları keşif ve istismar işlemlerini otomatikleştirebiliyor, veritabanlarını ve kimlik bilgilerini çalabiliyor, bulut meta veri hizmetlerine erişebiliyordu.

Symantec, operasyonun birincil amacının XMRig kripto para madencisini kurmak olduğunu, aynı zamanda oturum açma bilgileri gibi hassas verilerin de çalındığını belirtiyor. İşlem gücü ve yapay zekâ kullanım maliyetleri mağdurlara yükleniyordu. Symantec, analiz döneminde tuzağına “on binlerce” benzersiz IP adresinden 127.000’den fazla harici istek geldiğini gözlemledi. Raporda kaç saldırganın yer aldığı veya kaç mağdurun başarıyla ele geçirildiği belirtilmiyor.

Şirket, tuzaktaki etkinliğin çoğunlukla açık yapay zekâ uç noktalarına yönelik keşif, çalıntı API anahtarlarını kullanma girişimleri ve açık yapılandırma dosyalarını aramadan oluştuğunu söylüyor. Açık yapay zekâ hizmetleri, model ağ geçitleri ve Model Context Protocol (MCP) sunucularının saldırganların ilgisini çekebileceği uyarısında bulunuyor. LLM API’lerini internete açmamayı, API anahtarlarını korumayı, dış ağ erişimini kısıtlamayı ve hassas ajan işlemleri için insan onayı istemeyi öneriyor.