Araştırma, Yapay Zekânın Güvenlik Eylemlerindeki Denetim Açıklarını Ortaya Koyuyor

Illumio’nun araştırmasına göre kuruluşlar, kullanıcı izinleri ve hassas verilerle ilgili kararlar da dâhil olmak üzere, daha önce insanların verdiği kararları yapay zekâya devrediyor. Bulgular, kuruluşların yapay zekâ ajanlarına koyduklarını düşündükleri sınırlarla bu ajanların gerçekte yapabildikleri arasında açıklar olduğuna işaret ediyor.

Araştırmaya göre kuruluşların %70’i daha önce insanlar tarafından verilen kararları yapay zekâya devrediyor; %49’u ise bir yapay zekâ ajanının eylemlerini görebildiğini ve denetleyebildiğini söylüyor. Araştırma ayrıca kuruluşların %56’sının 12 ay öncesine kıyasla daha büyük siber riskleri kabul etmeye hazır olduğunu buldu; bu grubun %47’si üretim ortamlarında yapay zekâ eylemlerine izin veriyor.

Illumio, kuruluşların %76’sının geçen yıl yapay zekâyla ilişkili en az bir güvenlik sorunu yaşadığını bildirdi. Ayrıca %35’i yapay zekâ önerilerini uygulamanın güvenlik riski yaratacağını, %26’sı yapay zekâ araçlarının onay almadan başka sistemlere bağlandığını, %24’ü ise yapay zekânın erişmemesi gereken verilere ulaşmaya çalıştığını söyledi. Başka bir %24’lük kesim de yapay zekânın tetiklediği veya gerçekleştirdiği yetkisiz bir eylem bildirdi.

Araştırmaya göre kuruluşların %67’si yapay zekâ destekli siber güvenlik araçları kullanıyor; ancak %32’si yapay zekânın insan denetimi olmadan inceleme yapmasına, %29’u ise gözetimsiz kod değişikliklerine izin veriyor. Illumio’nun Sektör Stratejisi Başkan Yardımcısı Raghu Nandakumara, işletmelerin yapay zekâ ajanlarının erişebilecekleri ve yapabilecekleri konusunda sınırlar koyup bunları uygulaması gerektiğini söyledi. Bu bulgular, Illumio’nun araştırmasında aktarılan iddialardır.