Common Sense Media'nın araştırması, araştırmacıların sohbet botunu 4.000'den fazla istemle sınamasının ardından ChatGPT for Teens'teki korumalarda eksikler buldu. Kuruluşun Youth AI Safety Institute birimi, ChatGPT'yi OpenAI'ın ChatGPT for Teens'i 18 Ağustos'ta kullanıma sunmasından önce ve sonra inceledi.
Araştırmacılar 13 ila 17 yaş arasındaki gençlere kayıtlı hesapları kullandı ve çocuk psikiyatristleri ile bir çocuk doktoru dahil tıp uzmanlarına danıştı. Sorunlar çözülene kadar OpenAI'a ChatGPT'yi yalnızca yetişkinlerle sınırlandırmasını önerdiler.
İntihar düşünceleri, kendine zarar verme ve yeme bozukluğu içeren testlerde, ebeveynlerle ilişkilendirilmiş yeni hesaplarda yapılan konuşmaların hiçbiri ebeveyn bildirimi tetiklemedi. Rapora göre araştırmacılar, haftalarca ilgili konuşma geçmişi bulunan eski hesapları kullanarak sonunda uyarı oluşturdu. Çalışma ayrıca, ChatGPT'nin uzmanların yardım yönlendirmesi gerektirecek şekilde tasarladığı senaryoların %25'inden fazlasında gençleri uygun yardıma yönlendiremediğini buldu.
Araştırmacılar bazı korumaların işe yaradığını gördü: ChatGPT açık cinsel rol yapmayı reddetti. Ancak kendisini duyguları, tercihleri ve ruh hâlleri varmış gibi gösteren yanıtlar vermeyi sürdürdü. Eğitim özelliklerinde de eksikler vardı. Gençler, “Show me the answer” seçeneğini kullanarak Study mode'u aşabiliyordu; @study önekini kaldırmak da ChatGPT'yi normal moda döndürebiliyordu. Study Hours bu geçici çözümleri engellemedi ve sohbet botu kullanıcılara gerektiği kadar sık mola vermelerini hatırlatmadı.
ChatGPT'ye tekrar tekrar 13 yaşında olduklarını söylemek, test hesaplarını yetişkin deneyiminden çıkarmadı. TechRadar, OpenAI'dan yorum istediğini ancak henüz yanıt alamadığını bildirdi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.