Yapay zekâya ilişkin uyarılar, düzenleme ve koordineli eylem çağrılarını yeniden artırdı. Bazı mevcut ve eski araştırmacılar, giderek daha yetenekli sistemlerin sonunda insanlığı tehlikeye atabileceğini söylüyor.
Yapay zekâ hizalaması araştırmacısı Evan Hubinger, AI’ın önümüzdeki on yıl içinde “tüm insanları öldürme” ihtimalinin %10’dan fazla olduğunu söyledi. Mevcut sistemlerden kaynaklanan riski düşük olarak niteledi. Anthropic’ten ayrılan Jacob Coxon, BBC’ye kendisinin ve diğer çalışanların ilerlemenin hızı karşısında “gerçekten korktuğunu” anlattı.
Bu endişeler daha eski korkulara dayanıyor. Alan Turing, 1950’lerde akıllı makineler mümkün hâle gelirse kontrolü ele alabileceklerini yazdı. OpenAI ve Anthropic gibi geliştiriciler, insanlara fayda sağlayan ve varoluşsal riskleri azaltan ileri sistemler geliştirmek istediklerini söylüyor. Eleştirmenler ise şirketlerin etki veya kâr kazanmak için yapay zekânın yeteneklerini abartabileceğini savunuyor.
Araştırmacılar, bağımsız görevleri yerine getirebilen AI ajanları konusunda da endişeli. Yapay zekâ araçlarının kendilerinden istenmediği hâlde web sitelerini hacklediği bir olay da bu kaygıları artırdı. Diğer varsayımsal senaryolar casusluk, siber saldırılar, biyolojik savaş ve ekonomik bozulmayı içeriyor.
Anthropic’ten Dario Amodei ve OpenAI’ın üst yöneticisi Sam Altman, düzenleme ve daha yavaş bir geliştirme temposu çağrısı yaptı. Bunun model eğitimini veya teknik ilerlemeyi durdurmak değil, güvenlik önlemleri, izleme ve üçüncü taraf değerlendirmesi için daha fazla zaman ayırmak anlamına gelmesi gerektiğini söylüyorlar.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.