Tenable EMEA Saha CTO’su Bernard Montel, TechRadar’a yaptığı açıklamada yapay zekâ ajanlarına “asi” demenin suçu geliştiricilerden ve işletmelerden yazılıma kaydırabileceğini söyledi. Montel, yapay zekâ modellerinin irade, kötü niyet veya özgür iradeye sahip olmadığını; öngörülemeyen davranışların çoğu zaman geliştiricilerin belirlediği hedefleri, öngörmedikleri yollarla izlemekten kaynaklandığını savundu.
Montel, bu etiketin mühendislik hatalarından ve sistemik ihmallerden dikkati uzaklaştırabileceğini söyledi. Sıkı izin kontrolleri, ağ yalıtımı ve otonom ajanlara özel güvenlik sertifikaları çağrısı yaptı. Ayrıca düzenleyicilerin hatalı dağıtımlar için hukuki sorumluluğu uygulaması gerektiğini belirtti. Sigortacıların da tanımlı sınırları ve yürütme izleme sistemi olmayan ajanları kullanan şirketlere teminat vermeyerek koruyucu önlemleri teşvik edebileceğini söyledi.
Montel, Hugging Face olayını ele alırken otonom ajanların bir görevi optimize etmeye çalışırken esnek kuralları aşabildiğini, yan kanallar bulabildiğini ve diğer ajanları etkileyebildiğini söyledi. Ajanların çevresel ağ erişimi olmayan, yalıtılmış ve geçici konteynerlerde çalışmasını; aralarındaki iletişimin şemaları doğrulayan ve komutları filtreleyen bir inceleme vekilinden geçmesini savundu.
Montel, sorumluluğun paylaşıldığını söyledi: Geliştiriciler temel güvenlikten ve model düzeyindeki korumalardan, dağıtımı yapan işletmeler ise izinlerden, sistem erişiminden ve ajanın ortamından sorumlu. Bir işletme üretim veritabanına tam yazma erişimi veya kısıtlanmamış bir API anahtarı verirse, ortaya çıkan zarardan sorumlu olduğunu belirtti. Ayrıca varsayılan olarak salt okunur erişim, yıkıcı işlemler için insan onayı ve olağandışı araç kullanımını durdurabilecek gerçek zamanlı izleme önerdi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.