Önde gelen bazı yapay zekâ şirketleri, öncü yapay zekâ geliştirmesinin yavaşlatılması çağrısını destekliyor; ancak hiçbir şirket erteleyeceği bir modeli açıklamadı. Anthropic CEO'su Dario Amodei, yeteneklerin riskleri sınırlamak için gereken güvenlik önlemlerinden daha hızlı ilerlediğini belirten bir yazıyla “öncü gelişime tempo vermeyi” önerdi. OpenAI CEO'su Sam Altman ve Google DeepMind CEO'su Demis Hassabis bu fikri destekledi.
Öneri; bağımsız değerlendiricilere, izlemeye, ortak güvenlik standartlarına ve uluslararası iş birliğine odaklanıyor. Gelişimi yavaşlatmanın ek güvenlik testleri mi yoksa büyük sürümler arasındaki sürenin uzatılması mı olduğu tanımlanmıyor. Kamuya açık bir sürüm takvimi olmadıkça “tempo verme” ifadesinin anlamı belirsiz kalıyor.
ABD Başkan Yardımcısı JD Vance, öncü yapay zekâ şirketlerinin hükümetten düzenleme istemesinin alışılmadık olduğunu söyledi ve durumu olası bir “Truva atı” olarak nitelendirdi. Yorumları, temkin çağrıları ile süren rekabet arasındaki gerilimi gösteriyor. Anthropic, Amodei'nin son çağrısından önce Claude Fable 5.1 ve Mythos 5.1'i yayımlarken OpenAI GPT-6 Astra'yı tanıttı.
Amodei; siber saldırılar, biyoterörizm, ekonomik bozulma ve insanların kontrol etmekte zorlanabileceği sistemler dahil risklere dikkat çekti. Surfshark mühendisi Karolis Kaciulis, aşırı uyarıların kimlik avı, deepfake dolandırıcılığı, otomatik dolandırıcılık ve yıldırma gibi güncel zararları gölgeleyebileceğini söyledi. Yazıya göre önerinin pratik bir etkisi olması için bağımsız değerlendirme ve ölçülebilir taahhütler gerekiyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.