OpenAI, şirketin bir blog yazısında belirttiğine göre, Avrupa Birliği’nde ChatGPT ve Codex tarafından oluşturulan metinlere görünmez bir filigran ekleyecek. Uygulamanın önümüzdeki haftalarda AB’deki tüm planlarda uygun kullanıcılara sunulması planlanıyor. OpenAI, metin filigranını ilk aşamada dünya genelinde varsayılan olarak etkinleştirmeyeceğini söyledi.
Dünyanın her yerindeki OpenAI API geliştiricileri, seçili modeller için filigranı bugünden itibaren açabilir; özellik varsayılan olarak kapalı. EU AI Act'in şeffaflık kuralları 2 Ağustos’ta yürürlüğe girdi ve yapay zekâ şirketlerinin, diğer sistemlerin tanıyabilmesi için yapay zekâ tarafından üretilen içerikleri işaretlemesini gerektiriyor.
Filigran görünür bir simge değil. Bunun yerine, bir algılayıcının tanıyabileceği bir örüntü oluşturmak için sözcük seçimlerini ince biçimde şekillendiriyor. OpenAI, filigranın kullanıcıları tanımlamadığını ve etkinleştirilmesinin model performansında anlamlı bir değişikliğe yol açmadığını söyledi. Şirket ayrıca, Pennsylvania Üniversitesi ve Yale araştırmacılarının ortak yazdığı, textGrain adlı yönteme ilişkin teknik bir rapor yayımladı.
OpenAI’nin testleri, düzenlemenin algılamayı zayıflatabileceğini gösterdi: Sözcüklerin %10’unu eş anlamlılarıyla değiştirmek, algılama oranını yaklaşık %92’den %66’ya düşürdü. Şirket, kısa metinlerin, matematik yanıtlarının ve çevrilmiş metinlerin de algılanmasının daha zor olduğunu söyledi. Filigranın bulunmamasının metni bir insanın yazdığını kanıtlamadığı uyarısında bulundu. Filigran, bir metin parçasının bir bölümünü OpenAI’nin oluşturduğunu veya işlediğini gösterebilir; ancak ne kadar insan değerlendirmesi ya da düzenlemesi yapıldığını göstermez.
OpenAI, algılayıcıya ilk aşamada yalnızca onaylı araştırmacıların ve uzman kuruluşların erişebileceğini, bunun güvenilirliği ve sorumlu kullanımı değerlendirmeye yardımcı olacağını söyledi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.