Angripare missbrukar betrodda AI-plattformar för att vara värdar för skadligt innehåll, manipulera sökresultat och leverera skadlig kod, enligt Huntress.
Under de senaste nio månaderna har Huntress Security Operations Center spårat kampanjer som använder delbart AI-innehåll, offentliga miniappar och sponsrade sökplaceringar. Kampanjerna riktade sig mot användare genom Claude Artifacts, claude.ai/share-länkar samt delade ChatGPT- och Grok-konversationer.
I juli observerade Huntress kampanjen FakeAgent, som drabbade fler än 29 organisationer. Angripare publicerade ett skadligt Claude Artifact på den riktiga domänen claude.ai och använde det för att efterlikna en nedladdningssida för Claude Desktop. Användare som sökte på Bing omdirigerades till en extern domän som levererade SectopRAT. Anthropic tog bort Artifactet senast den 22 juli, men relaterade omdirigeringar fortsatte in i augusti.
I en separat incident ledde ett sponsrat Google-resultat till en claude.ai/share-sida som utgav sig för att vara en installationsguide från Apple Support. En annan kampanj, som observerades i december, använde högt rankade ChatGPT- och Grok-konversationer för att sprida ClickFix-liknande instruktioner för att frigöra diskutrymme i macOS. Användare som följde Terminal-kommandona fick AMOS stealer.
Huntress sade att attackerna inte tog sig förbi AI-plattformarnas säkerhet. I stället utnyttjade de förtroendet för välkända varumärken, riktiga domäner och AI-genererat innehåll.
Kommentarer
0Inga kommentarer ännu. Skriv den första.