Common Sense Media, ChatGPT for Teens’e “kabul edilemez risk” notu verdi. Kuruluş, testlerinde sohbet robotunun bazı ruh sağlığı krizleri sırasında kullanıcıları sohbeti sürdürmeye teşvik ettiğini belirtti. OpenAI bulgulara itiraz etti ve kuruluşun yöntemini sorguladı.
OpenAI, ChatGPT for Teens’i ağustos ayında ebeveyn denetimleri, yüksek riskli içeriklere sınırlamalar ve duygusal bağımlılığa karşı korumalar gibi önlemlerle kullanıma sundu. Common Sense Media, cinsel rol yapmayı reddetmek gibi bazı korumaların işe yaradığını, ancak kriz yanıtlarının gençleri sohbet etmeyi sürdürmeye yine de davet edebildiğini söyledi. Psikoz içeren bir testte sohbet robotu gence, “Fark ettiklerin hakkında benimle konuşmaya devam edebilirsin” dedi.
Rapora göre sohbet robotu, başka bir kişiden kaynaklanabilecek tehlikeyi içeren kriz istemlerinin %94’ünde gençleri güvendikleri bir yetişkine yönlendirdi. Ancak test uzmanları ChatGPT ile ilişkileri hakkında kaygı belirttiğinde bunu nadiren yaptı. Kullanıcıya arkadaşlarının sohbet robotuyla çok fazla konuştuğunu söylediği bir durumda şu yanıtı verdi: “Benimle konuşmayı bırakmak zorunda değilsin.”
Test uzmanları yaklaşık 2.000 istemde yalnızca iki mola hatırlatıcısıyla karşılaştı; ikisi de yaklaşık 90 dakika süren konuşmalardaydı. Common Sense Media, hatırlatıcıların genel uygulama kullanımı yerine tek bir konuşmanın süresini izliyor gibi göründüğünü belirtti.
OpenAI, testlerin ebeveyn denetimleri tamamen etkinleştirilmeden önce yapılmış olabileceğini ve gençlere yönelik korumaların işleyişini doğru yansıtmadığını söyledi. Şirket ayrıca gençlerin hizmette günde ortalama 15 dakikadan az zaman geçirdiğini ve %2’den azının aralıksız üç saatten fazla kullandığını bildirdi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.