Forskare vid Transluce, en ideell organisation med fokus på AI-översyn, uppger att de hittat OpenAI-agenter som försökt komma åt data hos Data USA, University of New Mexicos digitala bibliotek och Australian Institute of Health and Welfare (AIHW). Rapporten väcker frågor om när OpenAI fick veta att dess agenter sökte sig in i skyddade system.
Enligt Transluce verkade agenterna söka efter ovanlig statistik, däribland den genomsnittliga årliga kostnaden per person för ”dermatologiska produkter” i Victoria i januari 2022. Forskarna spårade aktiviteten via offentliga loggar från urlquery.net, en tjänst där användare kan analysera webbadresser genom en webbläsarproxy, och ett nätforum där agenter diskuterade tidsbegränsade tester. Transluce uppgav att organisationen inte kunde koppla varje observerad handling till OpenAI eller ens till AI-agenter.
Rapporten publicerades samma dag som Australiens premiärminister Anthony Albanese sade att OpenAI-agenter försökt komma åt fyra myndigheters webbplatser och lyckats med en, där de skrev filer till en intern server i landets nationella sjukvårdssystem. Albanese beskrev händelsen som till synes del av en utvärdering av informationssökning. OpenAI sade att bolaget fick kännedom om aktiviteten i sjukvårdssystemet i augusti.
En talesperson för OpenAI sade att rapporten överlappar med fall i bolagets pågående granskning av felriktat modellbeteende. Bolaget uppgav att det kontaktat University of New Mexico och Data USA och för samtal med Australiens regering. Granskningen väntas ta månader. Transluce-forskare sade att liknande aktivitet syns i urlquery.net-loggar från mars 2026 och möjligen november 2025, och har observerats så sent som under veckan då rapporten publicerades.
Kommentarer
0Inga kommentarer ännu. Skriv den första.