Anthropic, Yapay Zekâ Modelinin Kimliğini Doğrulamak İçin FlashProve’u Geliştiriyor

Anthropic, hangi yapay zekâ modelinin belirli bir yanıtı ürettiğini doğrulamak için FlashProve adlı açık kaynaklı bir sistem üzerinde çalışıyor. Bu bilgi, salı günü yayımlanan bir blog yazısına dayanıyor. Sistem, araştırmacıların “kanıtlanabilir çıkarım” dediği şeyi, yani bir çıktının belirli bir modelden geldiğini gösteren kriptografik bir kanıt sunmayı amaçlıyor.

Araştırmacılara göre FlashProve, kullanıcıların yanıtın kullandıklarını düşündükleri modelden geldiğini kontrol etmesine yardımcı olabilir. Kriptografik e-posta imzasına benzer biçimde, sistemi geliştiren ve işleten laboratuvar da dâhil olmak üzere, bir modeli başka bir modelmiş gibi gösterme girişimlerine karşı koyması hedefleniyor. Araştırmacılar, sistemin şirketlerin maliyetleri düşürmek için gizlice daha ucuz bir modeli devreye almasını veya bildirilen performansı artırmak için daha pahalı bir model kullanmasını önlemeye yardımcı olabileceğini söylüyor. Ayrıca belirli bir görevin gelişmiş bir model tarafından yapıldığına ilişkin üçüncü taraf iddialarının doğrulanmasında da kullanılabilir.

Sistemin çalışması için yapay zekâ laboratuvarlarının yayımladıkları her model için bir parmak izi yayımlaması gerekecek. Bu parmak izleri çıktılarla eşleştirilip kriptografik olarak doğrulanabilecek; Anthropic ve diğer kapalı model geliştiricilerinin gizli tuttuğu model ağırlıkları açığa çıkmayacak. FlashProve, doğrulamanın yerel bir cihazda yapılmasına imkân verecek kadar hafif tasarlandı.

Araştırmacılar duyuruyla birlikte sistemin bazı bölümleri için teknik bir şartname ve çalışan kodu GitHub’da açık kaynak lisansı altında yayımladı. Araştırmalar sürüyor ve Anthropic’in sistemi kendi laboratuvarında ya da başka bir yerde kullanıma sunma planı yok. Araştırmacılar yazıyı ara aşamadaki ilerlemenin aktarımı olarak tanımlıyor ve başkalarını çalışmayı inceleyip geliştirmeye davet ediyor.