Güvenlik sistemleri geleneksel olarak kullanıcıların oturum açarken doğrulanmasına odaklandı. Ancak şirketler otonom yapay zekâ ajanlarını kullanmaya başladıkça güvenlik sorunu, erişim verildikten sonra da sürüyor. TechRadar’da Yaniv Toledano’nun yayımlanan makalesi bu noktaya dikkat çekiyor.
Önceden yazılmış kodu izleyen geleneksel bir hizmet hesabından farklı olarak yapay zekâ ajanı bir hedefi yorumlayabilir, bağlamı değerlendirebilir, araç seçebilir ve sonraki adımına karar verebilir. Oturum açarken kimliğini doğrulamak, sonraki her eylemin güvenli ya da doğru olduğunu göstermez. Makaleye göre ekiplerin ajanların kararlarını izlemesi ve erişebildikleri verileri ve işlem kaynaklarını koruması gerekiyor.
Makale, ajanları üç özerklik düzeyine ayırıyor. Conversational AI Agents (GenAI) için rol tabanlı erişim denetimi, kayıt tutma ve yanıt kontrolleri gerekiyor. E-postaları taslak hâline getiren veya veritabanı güncellemelerini incelemeye hazırlayan, insan denetimli ajanlarda araç parametreleri doğrulanmalı; yazma, silme, para harcama veya dışarıya bilgi gönderme eylemleri insan onayına bağlanmalı. Fully Autonomous Agents için hız sınırları, gerçek zamanlı politika denetimleri, kısıtlı ağ erişimi, sürekli kimlik ve yetkilendirme kontrolleri ve değiştirilemez denetim kayıtları dâhil daha sıkı önlemler gerekiyor.
Bu önlemleri uygulamak için güvenlik ekiplerinin ajanlar çalışırken istemleri, yanıtları, araç kullanımını ve veri hareketini görebilmesi gerekiyor. Makaleye göre bu etkinliği ağ, kullanıcı ve bulut veritabanı kayıtlarıyla birleştirmek; hangi ajanın işlem yaptığını, kimin sorumluluğunda olduğunu, hangi verilerin taşındığını ve hangi aracın kullanıldığını belirlemeye yardımcı olabilir.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.