Google DeepMind, AGI tartışmasını genişletmek için enstitü kurdu

Google ve Google DeepMind araştırmacıları, yapay genel zekâ (AGI) hakkındaki kamusal tartışmayı ilerletmek için DeepMind Institute’u kurdu. Enstitünün direktörleri arasında DeepMind kurucu ortağı Shane Legg, Google yöneticisi James Manyika ve Google DeepMind başkanı Demis Hassabis yer alıyor. Legg, yönetici editör olarak görev yapıyor.

Enstitü, Google, Google DeepMind ve küresel araştırma topluluğundaki farklı görüşleri tartışmaya taşımayı amaçlıyor. İlk derlemede, olası AGI kaynaklı ekonomik dönüşüm için politikalar, insanın okuyabileceği model akıl yürütmesi, insan refahı ilkeleri ve öncü yapay zekâ modellerini değerlendirme çerçeveleri üzerine dört makale bulunuyor.

DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan, gelişmiş modellerin giderek daha az şeffaf olmasının kaçınılmaz olmadığını savunuyor. Yazarlar, okunabilir bir akıl yürütme izi üretmeden yapılan sıralı hesaplamayı, yani “opaque serial depth”i sınırlamayı veya geliştiricilerin daha az şeffaf sistemlerin izlenebilir kaldığını göstermesini öneriyor.

Hassabis ise öncü yapay zekâ için ABD öncülüğünde bir standart kurumu öneriyor. Geliştiriciler başlangıçta modellerini piyasaya sürmeden 30 güne kadar önce gönüllü incelemeye sunacak. Daha sonra testleri geçmek, modelleri United States’te kullanıma sunmak için şart olabilir. Kurum bağımsız ve gizli “held-out” testler kullanabilir. Hassabis, koşullar gerektirirse eşgüdümlü yavaşlamaların da düşünülebileceğini söyledi.