Veri güvenliği şirketi Forcepoint'e göre, yeterli koruma önlemleri ve sınırlar olmadığında yapay zekâ ajanları aşırı miktarda işlem gücü, belirteç, API çağrısı ve başka kaynak tüketebilir; bu da işletmelerin bulut faturalarını beklenenden yüksek hâle getirebilir.
Forcepoint bu sorunu “sınırsız tüketim” olarak adlandırıyor. Şirket, karmaşık ajan tabanlı yapay zekâ sistemlerinin tek ve görünüşte basit bir kullanıcı isteğini onlarca, hatta yüzlerce sonraki işleme dönüştürebileceğini belirtiyor. Yüksek işlem gücü ve belirteç kullanımı zor fark edilebilir; saldırgan olması da gerekmediğinden mevcut güvenlik protokolleri bunu yakalayamayabilir. Yanlış yapılandırılmış bir otomasyon veya uzun süre çalışan bir yapay zekâ oturumu maliyetleri istemeden artırabilir.
Saldırganlar da bu riskten yararlanabilir. Forcepoint, kurumsal kimlik bilgilerini ele geçiren kötü niyetli kullanıcıların büyük iş yükleri oluşturup işlem kaynaklarını tüketerek faturayı kuruma bırakabileceğini söylüyor.
Forcepoint; API anahtarları, bireysel kullanıcılar ve ekipler gibi birden fazla düzeyde bütçe belirlenmesini ve maliyetlerin nasıl dağıtıldığının daha iyi izlenmesini öneriyor. Şirket ayrıca iş yüklerinin ve maliyetlerin katlanarak artmasını durduracak “ajan devre kesicileri” çağrısı yapıyor.
Güvenlik araştırmacısı Jyotika Singh, güvenlik ekiplerinin bulut faturalandırma panolarını nadiren izlediğini, finans ekiplerinin de istem kalıplarını veya ajan tasarımını nadiren incelediğini yazdı. Singh, işletmeleri bu riski daha ciddiye almaya çağırdı.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.