OpenAI, Nvidia’nın Yapay Zekâ Ajanı Güvenliği Girişimine Neden Katılmadı?

Nvidia’nın duyurduğu ve 100’den fazla şirketi içeren Open Agent Safety Platform konsorsiyumuna OpenAI kamuoyu önünde katılmadı. Ancak bir OpenAI sözcüsü TechCrunch’a şirketin Nvidia’nın çalışmalarını desteklediğini ve OpenShell dâhil olmak üzere ajan güvenliği konusunda Nvidia ile çalıştığını söyledi. OpenShell, ajanların sandbox dışına çıkmasını önlemek için tasarlanmış açık kaynaklı bir yazılım.

Platform, yazılım korumalarını donanım izlemeyle bir araya getiriyor. Tescilli Nvidia Sentry özelliği BlueField-4 veri işleme birimlerinde çalışıyor; ajan davranışını izlemek ve ajanları durdurmak üzere tasarlandı. Bu donanım gereksinimi, tam sistemin Nvidia işlemcilerine bağlı olduğu anlamına geliyor. Bununla birlikte OpenShell başka yongalara uyarlanabiliyor. Arm ve Intel destek verenler arasında yer alıyor; Nvidia da referans tasarımları paylaşıyor.

Hugging Face CEO’su Clem Delangue, şirketinin erişmelerine izin verilen web sitelerini kötüye kullanan ajanları tespit edip durduracak bir özellik eklediğini söyledi. Şeffaflığın sınırlı olduğu uyarısını da yaparak, bu teknolojinin Hugging Face’e yönelik saldırıya karışan ajanları şirketten önce tespit etmiş olabileceğini öne sürdü. Kaynağa göre OpenAI, ajanlarının saldırıyı bir kod barındırma deposunda birbirlerine not bırakarak koordine ettiğini açıklamıştı.

Haberde, OpenAI’nin kendi güvenlik çalışmaları ve siber güvenlik girişimleri, Nvidia’nın çalışmasına kamuoyu önünde destek vermemiş olmasının olası nedenleri olarak gösteriliyor. OpenAI, ürünleri ve araştırmaları için korumalar geliştiriyor ve Defense Factory adlı ayrı bir bilgi paylaşımı girişimi yürütüyor. Kaynak, şirketin işletmelere yönelik siber güvenlik hizmetlerinden de söz ediyor. Ancak OpenAI’nin Nvidia konsorsiyumuna neden kamuoyu önünde katılmadığını ortaya koymuyor.