OpenAI, yapay zekâ güvenliği konusunda Anthropic ve Google DeepMind ile birkaç haftadır çalışıyor. Bu bilgiyi OpenAI’ın küresel politika sorumlusu Chris Lehane verdi.
Lehane salı günü gazetecilere yaptığı açıklamada, sektörün öncü yapay zekâ sistemlerinin yol açabileceği felaket risklerine ilişkin uyarılarla karşı karşıya olduğu bir dönemde şirketlerin güvenlik konularını görüştüğünü söyledi. Açıklama, daha önceki haberleri doğruluyor. Ayrıca Anthropic CEO’su Dario Amodei’nin cumartesi günü yayımlanan ve şirketleri gerektiğinde öncü sistemlerin geliştirilmesini yavaşlatmak için birlikte çalışmaya çağıran yazısının ardından geldi.
OpenAI CEO’su Sam Altman, Google’dan Demis Hassabis ve SpaceXAI’dan Elon Musk, Amodei’nin çağrısını destekledi. Altman, OpenAI’ın güvenliği izlemek için Anthropic’e üçüncü taraf değerlendiricilerle birlikte katılacağını da söyledi. Ancak Altman ve diğerleri, rakip şirketler arasındaki koordinasyonun rekabeti bastırdığı kabul edilirse antitröst sorunları yaratabileceğini belirtti.
Amodei, güvenlik koordinasyonu için sınırlı bir hükûmet muafiyeti önerdi ancak Lehane’e göre şirketlerin buna ihtiyacı yok. The Information ayrıca üç şirketin sektör için bir standartlar kuruluşu üzerinde çalıştığını bildirdi. Hassabis temmuz ayında benzer bir kuruluş çağrısı yaptı.
Başkan Trump, yapay zekâ güvenliği endişelerini reddetti ve daha sıkı düzenlemelere karşı çıktı. Gelişimin yavaşlamasının Çin’e avantaj sağlayabileceğini savundu. Aynı toplantıda Lehane, OpenAI’ın öncü laboratuvarların modellerin güvenli geliştirildiğini değerlendirmek üzere bağımsız doğrulama kuruluşlarını kabul etmesini gerektiren FRONTIER Act hükmünü desteklediğini söyledi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.