Sam Altman yapay zekânın iki büyük riskine dikkat çekti

OpenAI CEO’su Sam Altman, yapay zekânın ciddi zararlara yol açabileceği iki senaryoyu anlattı: İnsanlar giderek daha yetenekli yapay zekâ sistemlerinin denetimini kaybedebilir ya da teknoloji üzerindeki güç tek bir kişinin, şirketin veya ülkenin elinde toplanabilir. Altman bu iki riski Figuring Out With Raj Shamani podcast’inde ele aldı.

İlk senaryoda insanlar, daha sonra yönlendiremeyecekleri veya durduramayacakları sistemlere karar verme yetkisini zamanla devredebilir. Altman, denetimin kasıtlı ya da kazara bırakılabileceğini söyledi. Buradaki kaygı, yapay zekânın mutlaka kötü niyetle hareket etmesi değil: Bir sisteme verilen hedefi izlerken, özellikle kritik sistemlerde ve çok az insan denetimiyle çalışıyorsa, insanların amaçlamadığı sonuçlara yol açabilir.

İkinci risk, yapay zekâ gücünün aşırı biçimde tek elde toplanması. Altman, farklı yaklaşımlar izleyen birden fazla yapay zekâ çalışmasının rekabet etmesini desteklediğini ve gücün çok az elde toplanmasına karşı olduğunu söyledi. Ayrıca OpenAI’ın en çok kullanıcıya ve çiplerden veri merkezlerine, modellerden diğer bileşenlere uzanan en güçlü altyapıya sahip olduğunu öne sürerken, şirketin başkalarının da başarılı olmasını istediğini belirtti.

Altman, yapay zekânın sağlayabileceği yararlar konusunda iyimserliğini koruyor. İnsanların uyum sağlamasına güvendiğini ve yapay zekânın fizik, tıbbi tedaviler ve enerji kaynakları dâhil yeni bilimsel keşiflere yardımcı olabileceğini söyledi. Açıklamaları, bu riskleri geliştirmeyi sürdürürken yönetilmesi gereken zorluklar olarak gördüğünü gösteriyor.