Anthropic CEO’su, öncü yapay zekâ gelişimini yavaşlatmak için üç strateji açıkladı

Anthropic CEO’su Dario Amodei, yapay zekâ geliştirmeye daha temkinli yaklaşılması çağrısı yaparak “öncü gelişmeyi hızlandırmama” için üç geniş strateji açıkladı. Anthropic, ilk önerisine tek taraflı olarak bağlı kalacağını duyurdu: METR gibi üçüncü taraf değerlendiricilerin yapay zekâ şirketleri içinde çalışmasına izin vermek.

Amodei, şirket içindeki değerlendiricilerin şirketlerin hız ve güvenlik taahhütlerine uyduğunu doğrulayabileceğini ve olayları bildirebileceğini söyledi. Bu değerlendiricilere şirket kartları, masa ve dizüstü bilgisayar verilecek; yasal ve sözleşmesel sınırlar saklı kalmak üzere, iç risk değerlendirme ekiplerininkine büyük ölçüde benzer erişim sağlanacak.

Amodei’nin çağrısı, OpenAI-HuggingFace saldırısı ve yapay zekânın son dönemdeki daha hızlı ilerlemesinin ardından geldi. Buna, yapay zekânın yeni nesil yapay zekâyı geliştirme becerisinin artması da dahil. Amodei, şirketlerin yetenek geliştirme hızını yavaşlatması ve kazanılan zamanı dikkatle kullanması gerektiğini savundu.

Amodei ayrıca demokratik ülkelerdeki önde gelen yapay zekâ şirketleri arasında ortak güvenlik standartları ve denetimsiz ilerlemenin hızına sınırlar getirilmesini önerdi. US hükümetinin bu görüşmelere aracılık edebileceğini ve belirli güvenlik görüşmeleri için dar kapsamlı bir antitröst muafiyeti çıkarabileceğini söyledi.

Son olarak, mümkün olduğu ölçüde China (Çin) ile iş birliğini de içeren küresel koordinasyon çağrısı yaptı. Güçlü çiplerin ve yarı iletken ekipmanlarının ihracatına yönelik kontrollerin, model damıtımına karşı adımlarla birlikte, önümüzdeki 3–5 yıl içinde Amerika’nın China (Çin) karşısındaki üstünlüğünü önemli ölçüde artırabileceğini söyledi. Ayrıca yapay zekânın biyolojik silah üretiminde kullanılmasına karşı olası anlaşmalara değindi.