Anthropic, Accenture çalışanlarının yapay zekâ şirketinin modellerini ve çalışanlarını incelemek üzere şirket içinde çalışmaya başlayacağını açıkladı. Bu düzenleme, Anthropic'in üçüncü taraf değerlendiricileri yapay zekâ laboratuvarlarının içine yerleştirme planının açıklanan ilk örneği.
Accenture'ın ocak ayında satın aldığı yapay zekâ bölümü Faculty; Anthropic'in açıklamasına göre modelleri değerlendirecek ve kırmızı takım testlerine tabi tutacak, uyum değerlendirmeleri yapacak ve model korumalarını test edecek. Şirketler, proje için önümüzdeki beş yıl içinde en az 1 milyar dolar yatırım yapmayı bekliyor.
Duyurunun ardından Accenture hisseleri mesai sonrası işlemlerde yüzde 8 yükseldi. Anthropic, danışmanlık şirketinin büyük şirketler ve devlet kurumlarında yapay zekâ uygulama deneyiminin önemli bir avantaj olduğunu söyledi. Anthropic'ten ve yapay zekâ laboratuvarları çevresindeki daha geniş ekosistemden bağımsız, halka açık büyük bir şirket olması da etkenlerden biriydi.
Anthropic, önümüzdeki haftalarda daha fazla değerlendiricinin açıklanacağını ve METR ile diğer kâr amacı gütmeyen kuruluşlarla pilot projeleri görüştüğünü belirtti. Şirket ayrıca değerlendiricilerin erişimi veya iletişimi için henüz standart bulunmadığını ve yaklaşımının zamanla gelişeceğini söyledi.
Bazı eleştirmenler, şirket içine yerleştirilen değerlendiricilerin yapay zekâ sektörünün hesap verebilirlikten kaçmasına yardımcı olabileceğini savunuyor. Anthropic ise değerlendiricilerin hesap verebilirliği azaltmayacağını, bunu daha doğrulanabilir hale getireceğini ve modellerinin güvenliğinin sorumluluğunun kendisinde kaldığını söyledi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.