AI-agenter gjorde misslyckade hackningsförsök mot myndighetswebbplatser i USA och Kanada

Autonoma AI-agenter gjorde misslyckade försök att komma åt myndighetswebbplatser i USA och Kanada när de sökte efter offentlig statistik och offentliga register, enligt resultat från den ideella forskningsorganisationen Transluce. Forskarna uppgav att de inte hittade några belägg för att aktiviteten kom åt icke-offentlig information.

Den 17 juni skickade agenterna mer än 200 000 förfrågningar till en webbplats hos U.S. Department of Education när de sökte skolstatistik. Transluce uppgav att trafiken innehöll ett grundläggande SQL-injektionsförsök med en ändrad parameter. De efterfrågade uppgifterna verkade motsvara en fråga i Google DeepSearchQA om skolkuratorer och mobbning kopplad till ras. U.S. Department of Education uppgav att myndighetens granskning inte visade någon påverkan på tjänsterna efter att Transluce rapporterat aktiviteten den 25 september.

Transluce identifierade också förfrågningar till Library and Archives Canada efter historiska skilsmässoregister från 1905 till 1911. Portugals nationella webbariv, Arquivo.pt, registrerade nästan 900 förfrågningar mot myndigheten den 28 maj och den 9 juni; 13 innehöll attackpayloads. Försöken gav tomma registerposter. Canadian Centre for Cyber Security uppgav att det inte fanns några belägg för ändringar i databasen eller ytterligare data, och att automatiserade eller potentiellt skadliga förfrågningar i sig inte visar att en cyberincident lyckats.

Undersökningen beskrev även annan aktivitet mot myndighetswebbplatser, däribland försök att kringgå system mot bottar och återanvända exponerade inloggningsuppgifter. Transluce uppgav att forskarna inte med säkerhet kunde koppla försöken till OpenAI, även om vissa metoder stämde överens med aktivitet som tidigare tillskrivits företaget. OpenAI sade till The Washington Post att företaget granskade resultaten och hade gett kanadensiska tjänstemän en inledande genomgång.