Kral Charles, yapay zekânın yanlış ellere geçmesi halinde varoluşsal tehlike oluşturabileceği konusunda uyardı

Kral Charles, yapay zekânın yanlış ellere geçmesinin “varoluşsal tehlikeleri” konusunda yapay zekâ yöneticilerini uyardı.

Charles, bu açıklamayı yapay zekânın topluma nasıl fayda sağlayabileceğini görüşmek üzere İskoçya'daki Dumfries House'ta düzenlediği zirvede yaptı. Toplantıya Birleşik Krallık'ın yapay zekâ bakanı Kanishka Narayan, Papa'nın danışmanı ve Nvidia, OpenAI ile Anthropic temsilcileri katıldı.

Kral, gruba “Bu teknolojileri geliştirenler, yapay zekânın daha karanlık yetenekler geliştirme riski konusunda giderek daha fazla uyarıda bulunuyor; belki de can almaya kadar varabilir” dedi. Teknolojinin potansiyel olarak felaket sonuçlar doğuracak biçimlerde kullanılmasının tehlikelerini yeterince değerlendirmenin “aciliyet” taşıdığını söyledi.

Charles, görevin yalnızca teknolojiyi ilerletmek olmadığını, teknolojinin insanlığın, toplumun ve doğal dünyanın hizmetinde kalmasının sağlanması gerektiğini belirtti. Zirvede, yapay zekânın gelecekteki kullanımına yön verecek “ortak bir ilkeler bütünü” oluşturulup oluşturulamayacağı ele alınıyor.

Görüşmeler, sektörden kişilerin gelişmiş veya “frontier” yapay zekâ modellerinin yetenekleri ve bunları denetlemek için gereken düzenlemeler hakkında yaptığı uyarıların ardından geliyor. Eleştirmenler, varsayımsal gelecek risklerine odaklanmanın yapay zekânın çevresel etkisi gibi acil sorunların dikkatlerden kaçmasına yol açabileceğini söylüyor. Bazıları da yapay zekâ şirketlerine kendi kendilerini denetleme konusunda güvenilemeyeceğini savunuyor.