Microsoft CEO'su Satya Nadella, yetkili bir kişinin görev sırasında modeli duraklatmasına veya kapatmasına olanak tanıyan bir “acil fren” ile yapay zekâ sistemlerinin daha güçlü denetimlerle tasarlanması gerektiğini söyledi.
Nadella, cumartesi sabahı X'te yayımladığı gönderide yapay zekânın “güven mimarisini yeniden değerlendirme” zamanının geldiğini belirtti. İnsanların “Super Intelligence”ı, önerileri, yanıtları ve eylemleri yalnızca kabul edilen ya da reddedilen iç içe geçmiş kara kutular olarak görmemesi gerektiğini savundu.
Nadella, modeli çalışmasını koordine eden “harness”tan ayırmayı ve denetimlerle koruma önlemlerini modelin dışına taşımayı önerdi. Ayrıca modelin anlamlı her eyleminin, değiştirilmeye karşı korumalı ve insanların okuyabileceği kanıtlarla belgelenmesini istedi. “Bir modelin ele geçirildiğini varsaymalı ve en baştan kontrol altına almalıyız,” diye yazdı.
Nadella'nın açıklamaları, önde gelen yapay zekâ şirketlerinin modellerinin denetimini kaybetmiş gibi göründükleri daha fazla olayı kabul ettiği bir dönemde geldi. Açıklamalar, Anthropic CEO'su Dario Amodei'nin daha temkinli yapay zekâ geliştirme planını yayımlamasının ardından da geldi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.