Önde gelen yapay zekâ sistemlerinin geliştirilmesini yavaşlatma çağrıları bazı ABD’li yapay zekâ liderlerinden destek görüyor; ancak ABD hükümeti ve Çin buna karşı çıkıyor.
Anthropic araştırmacısı Jacob Coxon istifa ettikten sonra, denetimsiz ilerlemenin yakın gelecekte varoluşsal bir risk yaratabileceği uyarısında bulundu. Bunun ardından Anthropic yöneticisi Dario Amodei, OpenAI CEO’su Sam Altman ve Grok’un kurucusu Elon Musk daha yavaş bir yaklaşımı destekledi. Amodei, modeller kritik yetenek düzeyine ulaşmadan önce bir veya iki yıl kazanmanın hizalamayı ilerletmeye ve riski azaltmaya yardımcı olabileceğini söyledi.
Amodei, üç parçalı bir plan önerdi ve Anthropic’in üçüncü taraf değerlendiricilere sistemlerine çalışan düzeyinde kalıcı erişim sağlayarak başlayacağını belirtti. Bu değerlendiriciler güvenlik önlemlerini kontrol edecek, olayları bildirecek ve eğitim sırasında model hizalamasını değerlendirecekti. Altman, yapay zekâ düzenlemeleri ile standartlarının ilerlemeyi sürdürmeye hazır olmadığını söyledi.
Başkan Donald Trump, yavaşlamanın Çin’in yetişmesine izin verebileceğini savunarak buna karşı çıktı. ABD’nin Çin’in önünde olduğunu ve yapay zekâyı kazananın kazanacağını söyledi. Beijing ise önerileri Soğuk Savaş senaryosundan gelen korku tellallığı olarak niteledi. Çin Dışişleri Bakanlığı sözcüsü Guo Jiakun, çatışma ve rekabetin küresel yapay zekâ yönetimini sekteye uğratacağını söyledi.
Kaynak, durumu nükleer silahlanma yarışıyla karşılaştırıyor ve fizikçi Leó Szilárd’ın 1950’de kobalt bombası hakkında yaptığı tartışmaya değiniyor. Şirket düzeyindeki kontrollerin Çin, ABD ve büyük yapay zekâ laboratuvarları koordinasyon sağlamadıkça zorlanacağını; işletmelerin de yapay zekâ ajanlarının erişimlerini, değişikliklerini ve kendi başına verebilecekleri kararları yönetmesi gerektiğini belirtiyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.