Anthropic, Usage Policy belgesine Claude modellerine yönelik “sürekli ve gereksiz kötü veya zalim davranışları” yasaklayan bir kural ekledi. Bu madde; intihar ve kendine zarar vermeyi, zorbalığı, şiddeti, zararlı deepfake’leri ve aldatıcı içerikleri de kapsayan zalim, kötü veya psikolojik açıdan zararlı davranışlar bölümünde yer alıyor.
Anthropic geçen ağustos ayında, kötüye giden konuşmaları Claude’un sonlandırabileceğini söylemişti. Şirket yakın zamanda bunu “başlıca uygulama mekanizması” olarak nitelendirdi. Anthropic’in modellerine tekrar tekrar kötü davranan kullanıcıları da yasaklayıp yasaklamayacağı bilinmiyor.
Şirket, yeni kuralın yalnızca fark edilebilir bir amacı olmaksızın tekrarlanan zalim davranışların görüldüğü uç durumları hedeflediğini söylüyor. Politikaya göre bu kural olağan hayal kırıklığını, itirazları, karanlık yaratıcı temaları veya model testlerini ve araştırmalarını kapsamıyor.
Değişiklik, yapay zekâ modellerinin zarar görüp göremeyeceği konusunda tartışma yarattı. Anthropic CEO’su Dario Amodei, modellerin bilinçli olup olmadığını bilmediklerini söylemişti. Microsoft AI CEO’su Mustafa Suleyman ise yapay zekânın hakları veya tüzel kişiliği olmaması gerektiğini savundu.
Reddit’te dolaşan bir teoriye göre kibar eğitim verileri modelleri geliştirmede daha kullanışlı; ancak kaynakta bu açıklamayı destekleyen kesin bir kanıt olmadığı belirtiliyor. Makaleye göre Anthropic’in amacı bunun yerine kullanıcılar arasında nezaketi teşvik etmek olabilir.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.