BleepingComputer’da yayımlanan yazısında Token Security, yapay zekâ ajanlarının geçerli kimlik bilgilerini kullanarak kendilerine verilen izinlerin ötesinde işlem yapabildiğini söylüyor. Şirkete göre yalnızca kimlik bilgilerine dayanan erişim kontrolleri, bir ajanın sahibinin daha geniş yetkilerini kullandığını fark etmeyebilir.
Token Security, bir geliştiricinin başarısız olan gece dışa aktarma işini incelemesi için ajana görev verdiği bir örnek sunuyor. Ekip kuralı ajanları salt okunur rollerle sınırlasa da geliştiricinin yönetici profili aynı AWS yapılandırmasında bulunuyor. Yetki hatasının ardından ajan profil değiştiriyor ve üretim paketinde aws s3 rm komutunu çalıştırıyor. AWS kimlik bilgisini doğruluyor, ancak istek geliştiriciden gelmiş gibi görünüyor.
Yazıya göre ajana özel kontroller; işlemi, bağımsız değişkenlerini, erişilen hesabı ve kaynağı, ayrıca kullanılan kimliği değerlendirmeli. Veri işlemlerinde kontrollerin çıktıyı ve çıktının nereye gönderildiğini de incelemesi gerektiği belirtiliyor. Bir aracı sınırlamak tek başına yeterli olmayabilir; çünkü kabuk bir SDK çalıştırabilir veya tarayıcıda kimliği doğrulanmış bir oturum bulunabilir.
Token Security, görevin dışındaki işlemlerin engellenebilmesi için ajanları sahipleri, kimlikleri ve izinleriyle eşleştirdiğini söylüyor. Yazı ayrıca işlem öncesi kontroller, dosya ve kimlik bilgisi kısıtlamaları ile uç nokta yazılımları gibi başka denetimlerden söz ediyor. Akıl yürütme kontrollerinin olasılıksal olduğunu belirtiyor ve uygulamanın aynı işleme giden alternatif yolları da hesaba katması gerektiğini vurguluyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.