Autonom AI-agent uppges ha angripit spanskt företag

TechRadar rapporterar att Spaniens dataskyddsmyndighet har offentliggjort sin första anmälan om en personuppgiftsincident som enligt uppgift genomfördes av en autonom AI-agent baserad på en välkänd stor språkmodell.

Enligt Francisco Pérez Bes, ordförande och vice ordförande för Spaniens dataskyddsmyndighet (AEPD), använde agenten först målets offentligt tillgängliga filer för att logga in i företagets system. Väl inne började agenten söka efter sårbarheter. Efter att ha hittat en sårbarhet uppges den ha använt den för att ändra personuppgifter och få tillgång till fakturor.

Det finns få kända detaljer om händelsen, och en grundlig utredning pågår. Pérez Bes sade att händelsen inte innebär att AI-modellen eller leverantörens infrastruktur hade angripits eller var skadlig avsiktligt. Han beskrev ändå händelsen som betydelsefull ur ett dataskyddsperspektiv, eftersom agenten kopplade samman flera steg i angreppet.

Pérez Bes sade också att organisationer bör ta hänsyn till AI-assisterade och AI-drivna angrepp när de bedömer risker kopplade till behandling av personuppgifter och se över sina svarstider. Han lyfte fram den växande betydelsen av digitala identiteter och inloggningsuppgifter. En agent med ett konto eller en API-nyckel kan arbeta i maskinhastighet, analysera flera tillgångar, pröva olika angreppsvägar och snabbt anpassa sitt beteende innan avvikande aktivitet upptäcks.