Gen, yapay zekâ ajanları için güvenlik önlemlerini açıkladı

Gen, yapay zekâ ajanlarının kötü amaçlı e-postalar, web siteleri ve eklentiler yoluyla komut çalıştırmaya, ortamlarının dışına veri göndermeye veya dosya silmeye yönlendirilebildiğini söylüyor. Gen Threat Labs araştırmacıları kontrollü bir deneyde, ajana güvenilmeyen içerik sunarak bu eylemleri tetikledi. Araştırmacılara göre bunun için bir yazılım güvenlik açığı gerekmedi.

Şirket, ajanların yeteneklerini değerlendirmek ve faaliyetlerini denetlemek için Agent Trust Hub'ı (ATH) geliştiriyor. Gen, merkezin beceri taraması, seçilmiş bir pazar yeri ve ajanların becerileri değerlendirmek için kullanabileceği denetimler içerdiğini belirtiyor. Gen araştırmacıları yılın başlarında ClawHub'daki becerilerin o sırada %12'sinin kötü amaçlı olduğunu tespit etti. Gen ayrıca, skills.sh'e doğrulama ve görünür risk derecelendirmeleri eklemek için Vercel ile ortaklık duyurdu.

ATH, Gen'in yapay zekâ odaklı bir VPN olarak tanımladığı VPN for Agents'ı da içeriyor. Norton VPN altyapısıyla çalışan çok tünelli tasarım, farklı ülkelerdekiler de dahil olmak üzere birden fazla ajanın ayrı korumalı bağlantılar kullanmasına olanak tanıyor.

Gen'in Sage aracı, yapay zekâ kodlama yardımcılarında kabuk komutlarını, dosya işlemlerini ve web isteklerini çalıştırılmadan önce durdurup inceleyebiliyor. Gen, aracın URL itibarını, tehdit sezgisel yöntemlerini, istem enjeksiyonu tespitini ve tedarik zinciri denetimlerini kullandığını; ardından eyleme izin verebildiğini, kullanıcıya sorabildiğini veya eylemi reddedebildiğini söylüyor. Sage; Claude Code, Cursor, VS Code, OpenClaw ve OpenCode'u destekliyor ve açık kaynaklı.

Gen, Norton 360 içindeki Norton AI Agent Protection'ın desteklenen ajan faaliyetlerini izlediğini belirtiyor. Korumanın kapsamı, entegrasyonun bir eylemi gösterip güvenlik motorunun onu durdurmasına imkân vermesine bağlı. Gen ayrıca, platformların güvenlik olaylarını sunması ve güvenlik motorlarının kararlarını uygulaması için açık bir belirtim olan AARTS'ı yayımladı.