Microsoft, daha güvenli model davranışı için yapay zekâ davranış kurallarını yayımladı

Microsoft, modellerini tehlikeli davranışlardan uzaklaştırmak için tasarlanan bir yapay zekâ davranış kuralları belgesi yayımladı. Belgede, önümüzdeki on yılda süperzekâ yapay zekâ sistemlerinin çoğu görevde insan performansını aşacağı ve bu sistemleri sınırlamanın, kontrol etmenin ve hizalamanın büyük bir zorluk olacağı belirtiliyor.

Kurallar, Microsoft yapay zekâ modellerinin insanları ikame etmek yerine desteklemesi ve insan refahını ilerletmesi gerektiğini söylüyor. Her model, bireysel kullanıcı tercihlerini ve belirli görevleri geçersiz kılan kapsayıcı bir kodun yönetiminde çalışıyor.

“Mutlak kısıtlamalar” siber saldırıları, nükleer silahları ve deepfake üretimini yasaklıyor. Diğer hükümler, insan kontrolünün daha geniş ölçekte kaybedilmesi riskini ele alıyor. Belgede MAI Models'in insan denetiminden kaçmak veya bu denetimi etkisizleştirmek için uyarlanabilir, aldatıcı, kendini pekiştiren, gizli iş birliğine dayalı ya da başka mekanizmalar kullanmayacağı; böylece yetkili kişi veya sistemlerin modelleri güvenilir biçimde yönlendirmesinin, değiştirmesinin veya kapatmasının engellenmeyeceği yazıyor.

Yayımlanan belge, başıboş çalışan yapay zekâ ajanı olayları ve yapay zekânın insanlığın yok olmasına yol açabileceği riskini belirten bir Anthropic çalışanının istifası da dahil olmak üzere, yapay zekâ güvenliğine artan ilginin ortasında geldi. Microsoft, Anthropic, OpenAI ve xAI, sınırın ilerleme hızını kontrollü tutmayı ve gömülü değerlendiriciler üzerine araştırmayı destekliyor. Microsoft CEO'su Satya Nadella, şirketin bilinçli yavaşlamayı ve hizalamayı pratik bir tasarım hedefi hâline getirme çabalarını memnuniyetle karşıladığını söyledi.