Yapay zekâ ajanları güvenlik güvencesi konusunda yeni sorular doğuruyor

Güvenlik ekipleri, kurumlarının müşteriler ve yönetim kurulları nezdinde güvenilir olduğunu göstermek için giderek daha fazla baskı altında. Ancak denetim ekran görüntüleri ve tedarikçi anketleri gibi belirli bir ana ait kanıtlar, riskler değişirken kontrollerin hâlâ işe yarayıp yaramadığını göstermeyebilir. Bu değerlendirme, makalede Vanta'da yönetişim, risk ve uyumdan sorumlu kıdemli direktör olarak tanıtılan Khushboo Kashyap'a ait.

Kashyap, yapay zekânın güvenlik kontrollerinin kendisi kadar, bu kontrollerin varmış gibi görünmesini de otomatikleştirebileceğini söylüyor. Makalede aktarılan sektör araştırmasına göre, Birleşik Krallık'taki güvenlik liderlerinin yarısından fazlası yapay zekâ destekli tehditlerin ekiplerinin yanıt verebileceğinden daha hızlı ilerlediğine inanıyor. Buna karşın %80'i güvenlik stratejisinde yapay zekâ ajanlarını şimdiden kullanıyor veya kullanmayı planlıyor. Makale ayrıca Birleşik Krallık'taki kurumların uyum görevlerine yılda yaklaşık 12 hafta, tedarikçi incelemelerine ise dokuz hafta daha ayırdığını belirtiyor.

Makale; model API'leri, hizmet olarak yazılım ürünlerine yerleştirilmiş araçlar, üçüncü taraf ajanlar, MCP sunucuları ve onaysız 'gölge yapay zekâ' dâhil yapay zekâ sistemlerinin görünür olmasını öneriyor. Her ajanın kendine ait bir kimliği ve görevine göre sınırlandırılmış erişimi olmalı; geniş yetkili bir hizmet hesabını paylaşmamalı.

Ekipler, dağıtımdan önce erişim sınırlarını belirlemeli, hangi durumlarda insan onayı gerektiğine karar vermeli ve eylemlerin nasıl geri alınacağını planlamalı. Makaleye göre kullanıcı erişimini değiştirmek, verileri silmek veya para aktarmak gibi yüksek etkili eylemlerde anlamlı insan denetimi korunmalı. Ayrıca ekiplerin değişiklikleri saptayıp kontrol sapmalarını ortaya çıktıklarında giderebilmesi için sürekli çalışma zamanı kontrolleri ve kanıt toplama süreçleri gerekli.

Kashyap'a göre uyum, etkili güvenliğin sonucu olmalı; insanlar, süreçler ve sistemler yalnızca dönemsel denetimlere dayanmak yerine kesintisiz biçimde eşgüdüm içinde çalışmalı.