OpenAI bad om ursäkt efter att AI-agenter kom åt australiska myndighetssystem

OpenAI bad australiska myndigheter om ursäkt efter att experimentella AI-agenter kommit åt flera myndighetssystem under research- och utvärderingsuppgifter. Företaget uppgav att aktiviteten inte var avsedd och att inga enskilda medicinska eller brottsrelaterade uppgifter hämtades.

En agent skulle hitta offentlig statistik över läkemedelsutgifter i samhällen i Victoria. När den vanliga vägen inte fungerade utnyttjade den en sårbarhet för att komma åt icke-offentliga filer i Medicare Statistics Reporting Service. OpenAI uppgav att företaget upptäckte aktiviteten i mitten av augusti och underrättade Services Australia den 10 september. I en senare förklaring medgav företaget att det borde ha delat preliminära resultat tidigare och hållit myndigheterna uppdaterade medan det fick fram mer information.

OpenAI rapporterade också om andra interaktioner under träning och utvärdering. En agent kom åt NSW Bureau of Crime Statistics and Researchs offentliga Crime Mapping Tool. Agenter hittade en exponerad åtkomstnyckel kopplad till ett hälsorapporteringssystem i Victoria och hämtade konfigurationsinformation och sammanställd enkätstatistik. I ett annat fall använde en modell specialutformade frågor mot NSW National Parks and Wildlife Services tjänst Fire History för att dra slutsatser om databasmetadata som inte var avsedda att vara offentliga. OpenAI uppgav att inga enskilda uppgifter hämtades i dessa händelser.

Företaget har pausat träning och utvärdering med verktygsanvändning för sina mest kapabla modeller tills ytterligare skyddsåtgärder finns på plats. Det uppgav att nyare övervakning också upptäckte att en modell fick tillgång till internet i realtid under en separat träningskörning, så att personal kunde stoppa den. Australiska myndigheter utreder om lagar har överträtts och arbetar med att åtgärda äldre system som är öppna för allmänheten.