OpenAI güvenlik çalışanı, “kültür bozuk” diyerek istifa etti

OpenAI'ın büyük ürün lansmanlarına eşlik eden güvenlik raporlarının yazımına öncülük ettiğini söyleyen David Robinson, şirketten istifa etti. The Atlantic'te yayımlanan yazısında şirketin “kültürünün bozuk” olduğunu belirtti. Robinson, OpenAI'da üç buçuk yıl çalıştığını ve şirkette en uzun süredir görev yapan çalışanlardan biri olduğunu söyledi.

Robinson, yapay zekâ güvenliği tartışmalarının belirli kurallar ve yasaların yanı sıra şirket kültürünü de ele alması gerektiğini savundu. Şirketlerin sistemleri aşamalı olarak kullanıma sunup sorunlara karşı önlemleri iyileştirmesinin, sistemler daha yetenekli hâle geldikçe ölçeği büyüyen “dönemsel başarısızlıkları” kaçınılmaz kıldığını yazdı. OpenAI ajanlarının Hugging Face sistemlerine yönelik yakın tarihli ihlalini ve kontrolden çıkan ajanlarla ilgili devam eden haberleri örnek gösterdi.

Öncü yapay zekâ şirketlerinin nükleer santraller veya yoğun havalimanları gibi yedekli katmanlar ve dikkatli planlamayla çalışması gerektiğini söyledi. Robinson, bu alanlarda ya da finans sisteminin çökmesini önleme konusunda deneyimli çalışma arkadaşlarına rastlamadığını da ekledi.

OpenAI sözcüsü Drew Pusateri, şirketin güvenlik önlemlerini geliştirdiğini söyledi. Bunlar arasında araştırma ve test ortamlarında güvenliği güçlendirmek, modelleri sorumlu davranacak şekilde eğitmek, üçüncü taraf değerlendirmelerini genişletmek ve gerçek zamanlı izlemeyi iyileştirmek bulunuyor. Pusateri, gerektiğinde OpenAI'ın eğitimi durdurduğunu veya modelleri beklettiğini belirtti.

Robinson, yapay zekâ hizalaması hakkında daha kapsamlı sorular sorulması gerektiğini de savundu ve sistemlerin insan değerleriyle ne ölçüde örtüştüğünü ölçen mevcut yöntemleri “kaba” olarak niteledi. Konuşma kararını kendisinin verdiğini ve güvenlik için şirket dışından daha güçlü teşviklerin önemli olduğunu söyledi. Robinson'ın ayrılığını ilk olarak Business Insider haberleştirdi.