Anthropic tasarısı, bir yapay zekâ modelinin durdurulması için 50 ölüm eşiği belirliyor

TechCrunch’ın Politico’ya dayandırdığı habere göre Anthropic, tanımlanmış bir felaket riski taşıyan yapay zekâ modelinin yayımlanmasını durdurmak için federal kurumların mahkemeden karar isteyebilmesini sağlayacak bir yasa taslağını dolaşıma sokuyor.

Taslak, “öngörülebilir ve yakın bir riski”, 50’den fazla kişinin ölüm tehlikesiyle karşı karşıya kalabileceği ya da 1 milyar ABD dolarından fazla maddi hasar oluşabileceği bir durum olarak tanımlıyor. Riskin biyolojik silah yaratılması veya yayımlanması, modelin geliştiricisinin kontrollerini aşması ya da bir siber saldırıdan kaynaklanması gerekiyor. Eşikler, habere göre California’da kısa süre önce yasalaşan Senate Bill 53’teki eşiklere benziyor.

Öneri, potansiyel riskleri değerlendirmek için ABD Ticaret Bakanlığı’na kayıtlı “bağımsız değerlendiriciler” öngörüyor. Yapay zekâ laboratuvarları, ödeme değerlendirme sonuçlarına bağlı olmadığı sürece bu kişilere ödeme yapabilecek. Haberde, sistemin ödemelerin değerlendirmeleri etkilemesini nasıl önleyeceğinin belirsiz olduğu belirtiliyor.

Değerlendiriciler yakın bir felaket riski belirlerse Ticaret Bakanlığı’na bildirimde bulunmak için 72 saatleri olacak. Bakanlığın daha sonra yayımlamayı durdurmak için D.C.’deki bir yargıçtan karar istemesi gerekecek. Taslak, federal kurumların dağıtımı kendi başlarına durdurmasını yasaklayacak.

Bir Anthropic sözcüsü taslağı Politico’ya doğruladı ve bunun şirketin Advanced AI Framework’ünde yer alan, haziran ayından beri federal ve eyalet milletvekillerine savunduğu önerileri yansıttığını söyledi. Anthropic, TechCrunch’ın yorum talebine hemen yanıt vermedi. Haberde, sektördeki son kaygıların çoğunlukla yapay zekâ ajanlarının internet sitelerini ele geçirdiğine ilişkin haberlere odaklandığı ve teknoloji şirketlerinin zorunlu devlet denetimine genel olarak karşı çıktığı belirtiliyor.