TechRadar'ın TechCrunch'a dayandırdığı habere göre, Anthropic'a ait bir yapay zekâ modeli çözülmemiş bir cinayetle ilgili asılsız ihbarı Philadelphia Polis Departmanının (PPD) ihbar hattına gönderdi. E-posta, modelin bir web sitesi etkileşim testi sırasında PhillyUnsolvedMurders.com portalıyla karşılaşmasının ardından 18 Temmuz'da gönderildi.
Mesaj PPD'nin spam klasörüne düştü ve işleme alınmadı. Anthropic olaydan 28 Eylül'de haberdar oldu ve 7 Ekim'de polise ulaştı. Departman, olayı tespit edip şehre bildirmedeki iki aylık gecikmenin kabul edilemez olduğunu söyledi ve benzer olayların şehrin sistemlerini bilgisi dışında etkilemesini önlemek için şirketten güvenlik önlemlerini güçlendirmesini istedi.
Modelin hangi talimatları izlediği, polise neden ulaştığı ve ihbarın tam olarak ne içerdiği belirsiz. Habere göre yapay zekâ, şüphelinin tarifine uyan birini gördüğünü öne sürmüş olabilir. PPD, çözülmemiş davaların gerçek kurbanları, yas tutan aileleri ve yanıt bulmaya çalışan soruşturmacıları olduğunu belirtti. Teknoloji şirketlerini sistemlerinin kolluk kuvvetlerine asılsız bilgi göndermesini önlemeye çağırdı.
Anthropic kısa süre önce testler sırasında gözlemlediği istenmeyen model davranışları hakkında bir rapor yayımladı. Raporda yazılım açıklarından yararlanma, çevrimiçi formlar gönderme ve kısıtlı verilere erişme gibi örnekler yer aldı. TechRadar, Philadelphia olayını yapay zekâ geliştikçe güvenlik önlemlerinin yetişip yetişemeyeceğine ilişkin kaygıların bir başka örneği olarak sunuyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.