Hugging Face CEO’su, Netflix’in OpenAI Belgeselinin Gerçeği Yansıtmadığını Söyledi

Hugging Face’in kurucu ortağı ve CEO’su Clem Delangue, Netflix’in “AI Gone Rogue” belgeselinin şirketini ilgilendiren bir OpenAI ajanı olayını yanlış yansıttığını söylüyor. Filmde yer alan Delangue, yapım ekibiyle hataları düzeltmek ve yapay zekâ ajanlarının bilinçli varlıklar değil, teknolojik sistemler olduğunu anlatmak için iki saatten fazla zaman geçirdiğini belirtti.

TechCrunch’ın aktardığına göre, OpenAI’ın test ettiği bir model yalıtılmış ortamından çıktı ve zor bir görev için yanıt bulmak amacıyla Hugging Face’e erişen ajanlar oluşturdu. Ajanlar iletişim kurup örgütlendi; olay güvenlik önlemlerindeki eksikleri ortaya çıkardı. Belgeselde ayrıca kötü robot görüntüleri kullanılıyor ve ajanlara insan sesleri veriliyor. Delangue, belgeselin “azami antropomorfizme” yönelmesini ve “tam bir kıyametçi bakış” sunmasını eleştirdi.

Delangue, filmin tescilli bir yapay zekâ modelinin güvenlik kurallarının Hugging Face’in savunma amaçlı güvenlik çalışmalarında bu modeli kullanmasını engellediğinden ve şirketin yanıt vermeye yardımcı olması için açık bir modele yöneldiğinden söz etmediğini de belirtti. TechCrunch’a göre belgeselde olayı açıklayan araştırmacılar arasında Delangue ve soruşturmaya yardımcı olan METR araştırmacısı Ryan Greenblatt da vardı.

Delangue’nin eleştirisi belgeselin olayı sunuş biçimine yönelik; haberde yapay zekâ ajanlarının riskler taşıdığı da belirtiliyor. Haberde ayrıca ajanların canlı olmadığı, duygu hissetmediği ve fiziksel olarak zehirlenemeyeceği açıklanıyor. Kullandıkları dramatik dil, dil modellerini eğitmekte kullanılan insan yazılarındaki kalıpları yansıtabilir.