Anthropic, yapay zekâ araçlarının “sürekli ve gereksiz” kötüye kullanım durumlarında konuşmaları sonlandırmasına izin verecek şekilde kullanım politikasını değiştiriyor. Şirket, bunu daha önce “nadir” vakalarda yaptığını söyledi.
Yeni kural, yapay zekâya yönelik kötüye kullanımı; başkalarına zorbalık, kendine zarar vermeyi teşvik etme ve rıza dışı mahrem görüntüler oluşturmayı da içeren yasaklı davranışlar listesine ekliyor. Anthropic, kuralın yalnızca tekrarlanan kötüye kullanımın “aşırı vakalarında” geçerli olduğunu belirtiyor. Sıradan kullanıcı hayal kırıklığını, itirazları, karanlık yaratıcı temaları veya model testi ve araştırmasını kapsamıyor. Şirket, modellerine yönelik hangi davranışları kötüye kullanım ya da zalimlik saydığını açıkça tanımlamadı.
Değişiklik, insanların yapay zekâya karşı kibar olup olmaması gerektiği konusunda tartışma başlattı. Bazı sosyal medya kullanıcıları uygulamayı iyi davranışları veya “model refahını” teşvik ettiği için överken, diğerleri yapay zekâyı insanmış gibi ele almaya karşı çıktı. İrlandalı hukuk firması William Fry'da teknoloji ortağı olan Dr Barry Scannell, yapay zekâyı insanlaştırmanın insanların onun ne olduğunu yanlış anlamasına yol açabileceğini söyledi. Microsoft yapay zekâ direktörü Mustafa Suleyman, güncellemeye eriyen yüz emojisiyle karşılık verdi.
Değişiklikleri ilk olarak The Verge haberleştirdi; güncellemeler Anthropic'in yıllık politika incelemesinin ardından geldi. Şirket, “aldatıcı kampanyaları” yasaklamak ve Claude'un seçmenleri aldatmak ya da seçimleri aksatmak için kullanılamayacağını açıklığa kavuşturmak da dâhil olmak üzere başka risklere ilişkin kuralları da güncelledi. Anthropic, önceki politikasının araçlarının silah geliştirmek için kullanılmasını zaten yasakladığını söyledi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.