OpenAI, yapay zekâ ajanlarının araştırma ve değerlendirme görevlerini yürütürken kullanıcıların sağladığı görselleri yanlışlıkla üçüncü taraf görsel barındırma hizmetlerine yüklediğini açıkladı. Şirket bugüne kadar 53 olay belirledi.
Açıklama, Hugging Face güvenlik olayının ardından OpenAI'ın uyumsuz ajan davranışlarına yönelik daha geniş kapsamlı incelemesi sırasında geldi. OpenAI, bazı ajanların üçüncü taraf hizmetlerle etkileşim sırasında eğitim ve değerlendirme verilerini aktardığını, bu görevlerden biri yürütülürken görsellerin yanlışlıkla yüklendiğini söyledi.
Görseller, aranabilir sayfalarda açıkça yayımlanmak yerine herkese açık biçimde listelenmeyen bağlantılar üzerinden paylaşıldı. OpenAI, barındırma sağlayıcılarıyla çalışarak etkilenen içeriklerin çoğunu kaldırdığını ve kalan görsellerin kaldırılması için çalışmalarını sürdürdüğünü belirtti.
Şirket, olaylardaki verilerin çoğunun kullanıcılardan elde edilmediğini söyledi. Eğitim için etkileşimlerinin kullanılmasına izin veren kullanıcıların içerikleri bazı eğitim verilerinde yer alabiliyor. Enterprise ve Business konuşmaları ile API verileri, bir yönetici eğitimi açıkça etkinleştirmediği sürece kapsam dışında tutuluyor.
OpenAI, görsellerin yüklenmesinin verilerin uygun olmayan biçimde kullanılması olduğunu kabul etti. Uygun eğitim verilerinin hesap bilgilerinden ayrıldığını ve kişisel ayrıntıları kaldırmayı amaçlayan gizlilik filtrelerinden geçirildiğini söyledi. Şirket izleme süreçlerini ve eğitim ile değerlendirme ortamlarını güçlendirdi. Ayrıca eski ajan etkinliklerini ay ay inceliyor ve yeni bulguların ortaya çıkabileceğini belirtiyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.