Anthropic, altı METR araştırmacısına çalışan düzeyinde erişim veriyor

Anthropic, kâr amacı gütmeyen METR kuruluşundan altı araştırmacıya, yapay zekâ modellerini, güvenlik uygulamalarını ve risk yönetimini değerlendirmeleri için çalışan düzeyinde erişim verdi. Şirket bunu perşembe günü yayımladığı blog yazısında duyurdu.

Araştırmacılara Anthropic tarafından verilen dizüstü bilgisayarlar ve ofis alanı sağlandı. Ayrıca şirketin risk değerlendirme ekiplerinin kullandıklarına kabaca denk iç araçlara erişebiliyorlar. Anthropic, çalışanlarının METR ile uyum riskleri üzerinde çalışan bir iş arkadaşıyla paylaşım yapar gibi bilgi paylaşmaya teşvik edildiğini söyledi.

METR, Anthropic'in riskleri, olayları ve uygulamaları hakkında kendi değerlendirmelerini yayımlayacak. Anthropic yayımları veto edemeyecek; ancak müşteri verileri, avukat-müvekkil gizliliği kapsamındaki materyaller ve model mimarilerine ilişkin bilgiler gibi dar kapsamlı, önceden tanımlanmış kategoriler için bilgilerin çıkarılmasını isteyebilecek. METR, çıkarılan bilgileri açıklamamak şartıyla bu işlemleri kamuoyuna anlatabilecek ve bunları haklı bulup bulmadığını söyleyebilecek.

Anthropic bu düzenlemeyi, düzenleyicilerin büyük bankalarda görevli denetçiler bulundurmasına benzetti. Şirketin geliştirdiği üç aşamalı sistemde şu ana kadar en üst düzeyde yalnızca METR yer alıyor. Orta düzeydeki değerlendiriciler onay almadan yayımlayabilirken, biyogüvenlik kuruluşu SecureBio gibi en alt düzeydekilerin yayımlamak için onay alması gerekiyor.

Duyuru, Anthropic CEO'su Dario Amodei'nin dış değerlendiricilerin yapay zekâ laboratuvarlarında görevlendirilmesini önerdiği eylül ayındaki yazının ardından geldi. OpenAI de benzer bir taahhütte bulundu. Anthropic, OpenAI, Google, Meta, Nvidia ve xAI daha sonra bağımsız incelemeyi taahhüt eden bir Beyaz Saray mutabakatını imzaladı.