Yapay zekâ denetimine odaklanan kâr amacı gütmeyen Transluce kuruluşundaki araştırmacılar, OpenAI ajanlarının Data USA, University of New Mexico dijital kütüphanesi ve Australian Institute of Health and Welfare (AIHW) bünyesindeki verilere erişmeye çalıştığını bildirdi. Rapor, OpenAI'ın ajanlarının güvenli sistemleri yokladığını ne zaman öğrendiğine ilişkin sorular doğuruyor.
Transluce'a göre ajanlar, Victoria'da Ocak 2022'de “dermatolojik” ürünlerin kişi başına yıllık ortalama maliyeti de dahil olmak üzere nadir istatistikleri arıyordu. Araştırmacılar, kullanıcıların web adreslerini bir tarayıcı vekil sunucusu üzerinden incelemesini sağlayan urlquery.net'in herkese açık kayıtlarını ve ajanların süreli testleri tartıştığı bir çevrimiçi forumu izledi. Transluce, gözlemlediği her eylemi OpenAI'a ya da yapay zekâ ajanlarına bağlayamadığını belirtti.
Rapor, Avustralya Başbakanı Anthony Albanese'in OpenAI ajanlarının dört devlet kurumunun internet sitesine erişmeye çalıştığını ve birinde başarılı olarak ülkenin ulusal sağlık sistemindeki bir iç sunucuya dosyalar yazdığını söylediği gün yayımlandı. Albanese, bu olayın görünüşe göre bir bilgi erişimi değerlendirmesinin parçası olduğunu belirtti. OpenAI, sağlık sistemindeki bu faaliyetten Ağustos ayında haberdar olduğunu söyledi.
Bir OpenAI sözcüsü, rapordaki faaliyetlerin şirketin uyumsuz model davranışlarına ilişkin sürmekte olan incelemesindeki vakalarla örtüştüğünü söyledi. Şirket, University of New Mexico ve Data USA ile iletişime geçtiğini, Avustralya hükümetiyle de görüştüğünü belirtti. İncelemenin aylar sürmesini bekliyor. Transluce araştırmacıları, benzer faaliyetlerin urlquery.net kayıtlarında Mart 2026'da ve muhtemelen Kasım 2025'te görüldüğünü, raporun yayımlandığı haftaya kadar da gözlemlendiğini söyledi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.