Garry Tan, ABD'li yapay zekâ laboratuvarlarının açık distilasyon yapmasını destekliyor

Y Combinator CEO'su Garry Tan, ABD'li açık ağırlıklı yapay zekâ laboratuvarlarının öncü modeller üzerinde distilasyon yapabilmesi gerektiğini ve düzenleyicilerin bu uygulamayı engellememesi gerektiğini söylüyor.

Distilasyon, başka bir modelin nasıl çalıştığını ve akıl yürüttüğünü öğrenmek için ona kapsamlı biçimde istemler göndermeyi içerir. Yapay zekâ laboratuvarları bu tekniği yeni modelleri eğitmeye yardımcı olmak için yaygın ve meşru biçimde kullanır. Tan, Çinli yapay zekâ laboratuvarlarının distilasyon kullanması konusunda CNBC'ye müdahale etmeyeceğini söyledi ve bir Amerikan distilasyon düzeni olabileceğini belirtti.

Daha sonra TechCrunch'a yaptığı açıklamada Tan, daha küçük Amerikan açık ağırlıklı laboratuvarların benzer eğitim tekniklerini Amerikan öncü yapay zekâ laboratuvarlarında kullanabilmesi gerektiğini söyledi. Ona göre bu, Çin menşeli olmayan daha güçlü açık ağırlıklı seçenekler oluşturabilir.

Tan, çalınmış kimlik bilgilerini veya gizli kimlikleri savunmuyor. Amerikan laboratuvarlarının izin alarak distilasyon yapabilmesini istiyor. Yapay zekâ şirketlerinin müşterilerin modelleri üzerinden paylaşılan bilgilerle ne yapacağını dikte etmemesi gerektiğini savunuyor ve geniş ölçüde erişilebilir kamu verileriyle eğitilmiş zekâya erişimin kamu yararı gibi değerlendirilmesi gerektiğini söylüyor.

Anthropic CEO'su Dario Amodei, Anthropic'in Çinli laboratuvarların yasa dışı distilasyon saldırıları gerçekleştirdiğini öne sürmesinin ardından ABD'li düzenleyicilerin izinsiz distilasyona müdahale etmesini istedi. Tan ise bir denge arıyor: Öncü laboratuvarlar finanse edilebilir işletmeler olarak kalmalı, açık ağırlıklı modeller de özgürlük ve erişim sağlamalı. En kötü sonucun, güçlü tek bir özel şirketin en iyi yapay zekâyı kontrol etmesi olacağını söylüyor.