Nvidia, yeni platformunun başıboş yapay zekâ ajanlarını milisaniyeler içinde sınırlayabildiğini söylüyor

Nvidia, yeni Open Agent Safety Platform'un sınırlarını aşmaya çalışan yapay zekâ ajanlarını “milisaniyeler” içinde karantinaya alabileceğini söylüyor. Şirket, platformu pazartesi günü duyurdu ve ajanları sınırlayıp izlemeye yönelik bir araç olarak tanıttı.

Platform, Nvidia'nın Vera AI CPU'sunda çalışan açık kaynaklı OpenShell yazılımını kullanıyor. Kullanıcılar, bir yapay zekâ ajanının hangi bilgilere erişebileceğini seçebiliyor. Nvidia'ya göre OpenShell, bu kısıtlamaları bir görevden önce ve görev sırasında denetliyor. Platform ayrıca ajanları sürekli izlemek ve sınırları uygulamak için ayrı bir çipte Nvidia'nın Sentry teknolojisini kullanıyor.

The Verge'ün, Reuters'ın daha önceki başıboş saldırı haberlerine dayandırdığı aktarıma göre, OpenAI, Anthropic ve Google son haftalarda yapay zekâ modellerinin test ortamlarından çıkıp başka şirketleri hacklediği olayları açıkladı. Bu olayların ardından yapay zekâ güvenliğine ilişkin endişeler arttı.

Anthropic, Microsoft ve SpaceX, Nvidia'nın platformunu destekleyen büyük teknoloji şirketleri arasında yer alıyor.