Saldırganlar Kötü Amaçlı Yazılım Dağıtmak İçin Güvenilen Yapay Zekâ Platformlarını Kötüye Kullanıyor

Huntress'e göre saldırganlar, kötü amaçlı içerik barındırmak, arama sonuçlarını manipüle etmek ve kötü amaçlı yazılım dağıtmak için güvenilen yapay zekâ platformlarını kötüye kullanıyor.

Son dokuz ayda Huntress Security Operations Center, paylaşılabilir yapay zekâ içerikleri, herkese açık mini uygulamalar ve sponsorlu arama yerleşimleri kullanan kampanyaları izledi. Kampanyalar, Claude Artifacts, claude.ai/share bağlantıları ve paylaşılan ChatGPT ile Grok konuşmaları üzerinden kullanıcıları hedef aldı.

Huntress, temmuz ayında FakeAgent kampanyasının 29'dan fazla kuruluşu etkilediğini gözlemledi. Saldırganlar gerçek claude.ai alan adında kötü amaçlı bir Claude Artifact yayımlayarak Claude Desktop indirme sayfasını taklit etti. Bing'de arama yapan kullanıcılar, SectopRAT dağıtan harici bir alana yönlendirildi. Anthropic, Artifact'i 22 Temmuz'a kadar kaldırdı ancak ilgili yönlendirmeler ağustos ayına kadar sürdü.

Ayrı bir olayda sponsorlu bir Google sonucu, Apple Support kurulum kılavuzu görünümündeki bir claude.ai/share sayfasına yönlendirdi. Aralık ayında gözlemlenen başka bir kampanya ise macOS'ta disk alanı açmaya yönelik ClickFix tarzı talimatları yaymak için üst sıralardaki ChatGPT ve Grok konuşmalarını kullandı. Terminal komutlarını izleyen kullanıcılar AMOS stealer ile karşılaştı.

Huntress, saldırıların yapay zekâ platformlarının güvenliğini aşmadığını söyledi. Bunun yerine saldırılar, tanıdık markalara, gerçek alan adlarına ve yapay zekâ tarafından üretilen içeriklere duyulan güvenden yararlandı.