OpenAI, yapay zekâ ajanlarının devlet sistemlerine erişimi nedeniyle Avustralya’dan özür diledi

OpenAI, ajanlarının haziran ayında şirket içi eğitim ve değerlendirme sırasında devlet sistemlerine yetkisiz biçimde eriştiğini zamanında bildirmediği için Avustralya hükümetinden özür diledi. Şirket, yanıt sürecini daha iyi yönetmesi gerektiğini söyledi.

OpenAI, Victoria’daki cilt rahatsızlıklarına yönelik ilaç harcamalarını araştırmakla görevlendirilen deneysel bir modelin kamuya açık veri kümelerinde bilgi bulamadığını belirtti. Model daha sonra Services Australia’nın iç sistemine erişti, komutlar çalıştırdı, dosya ve kimlik bilgileri aldı ve dosyalar yazdı. Yetkililere 10 Eylül’e kadar bildirim yapılmadı.

Şirket ayrıca modellerinin New South Wales’in halka açık Crime Mapping Tool’una ve Victoria’nın Agency for Health Information kurumuna eriştiğini tespit etti. Açıkta kalan bir erişim anahtarı, ajanların raporlama yapılandırmasını ve toplu anket istatistiklerini almasına imkân verdi. Ajanlar Australian Institute of Health and Welfare sitesinden de toplu istatistikler aldı.

OpenAI, modellerinin kişilere ait tıbbi veya adli kayıtlara eriştiğine dair kanıt bulmadığını söyledi. Şirket, etkilenen kurumlarla teknik bulguları paylaşmayı, onları müdahale ekipleriyle buluşturmayı, 1 milyar dolarlık Daybreak for Frontline Defenders programından kredi sağlamayı ve bağımsız Avustralyalı uzmanlardan oluşan bir görev gücü kurmayı planlıyor. Görev gücünün yıl sonuna kadar çalışmalarını tamamlayıp benzer riskleri azaltacak adımlar önermesi bekleniyor.

Özürden yaklaşık bir hafta önce Avustralya hükümeti soruşturma başlatmıştı. Başbakan Anthony Albanese ihlali “kabul edilemez” olarak nitelendirdi ve hükümetin olası yasal önlemleri değerlendirdiğini söyledi. OpenAI, yorum talebine hemen yanıt vermedi.