OpenAI baş bilim insanı yapay zekâ gelişiminin yavaşlatılmasını istiyor

OpenAI baş bilim insanı Jakub Pachocki, araştırmacıların makine zekâsını ve risklerini daha iyi anlaması gerektiğini belirterek tüm sektörde yapay zekâ geliştirme hızının yavaşlatılmasını istedi.

OpenAI web sitesindeki bir yazıda Pachocki, yapay zekâ sistemlerinin bilgisayar güvenliği için açık yeni tehlikeler oluşturduğunu söyledi. Makine zekâsındaki hızlı yükselişin sonuçlarına kimsenin hazırlıklı olmadığı uyarısında bulundu. Açıklamaları, GPT-6 Astra’nın yayımlanmasından birkaç gün sonra ve OpenAI’ın otomatik araştırma asistanı ile özyinelemeli kendini geliştirme çalışmaları sürerken geldi.

Pachocki, derin öğrenme tabanlı yapay zekâyı büyük ölçüde deneysel bir bilim olarak niteledi ve makine zekâsının dönüştürücü biçimlerde insan yeteneklerini aşmaya başladığını söyledi. Yapay zekâdaki ilerlemeyi artan işlem gücüyle ilişkilendirdi; yeni algoritmaların sistemleri geliştirmesine rağmen daha fazla güç arayışının sürdüğünü belirtti.

Önerdiği adımlar arasında uyum ve izlemeyi güçlendirmek, insanları sürecin içinde tutmak ve gerektiğinde bu önlemlere güven oluşturmak için gelişimi eşgüdümlü biçimde yavaşlatmak yer alıyor. Pachocki, bu yaklaşımların birleştirilmesini destekliyor. Öneri, sektörün yapay zekânın potansiyelini ve risklerini değerlendirirken daha yavaş bir tempoyu kabul edip etmeyeceği sorusunu açık bırakıyor.