AI-ramverk automatiserar kampanjer för stöld av inloggningsuppgifter

Google Threat Intelligence Group (GTIG) uppger att hotaktörer går längre än enkla promptbaserade interaktioner med stora språkmodeller och använder ramverk med flera AI-agenter i flera delar av angrepp. Systemen kan samordna uppgifter, felsöka och anpassa sina åtgärder med liten mänsklig inblandning.

I en ekonomiskt motiverad incident tog en angripare över en organisations molninfrastruktur och planerade, byggde och startade på mindre än sex timmar en kampanj för storskalig insamling av inloggningsuppgifter. Kampanjen använde en AI-kodchattbot, en prompt och instruktioner för Markdown-agenter. Agenterna hanterade pipelinen för sårbarhetsskanning, samlade in tusentals inloggningsuppgifter från tredje part, felsökte i realtid, bytte IP-adresser och ledde trafiken genom legitima, komprometterade molnmiljöer.

GTIG observerade också att Kina-kopplade cyberspionageaktörer testade AI-drivna utvecklingsverktyg för automatiserad exploatering och aktiviteter efter exploatering. Det Rysslandsbaserade UNC5792 använde AI-modeller för att automatisera övervakningsbotar som sökte efter information av intresse för regeringen i Telegram-kanaler.

GTIG säger att helt autonoma hackerangrepp ännu inte är vanliga och rapporterar att man inte har sett helt autonoma pipeliner för upptäckt av zero-day-sårbarheter och nätverksexploatering mot verkliga mål. Google uppger att Gemini upptäckte många missbruk tidigt och hjälpte företaget att störa kampanjerna och stänga de berörda kontona.

Rapporten nämner också Gemini AI-destillering med 100 miljoner promptar. Blue Report 2026 mäter försvar i 338 miljoner simuleringar som körts i kundernas produktionsmiljöer.