Hiçbir Şey Yapmamak En Büyük Yapay Zekâ Güvenliği Riski

TechRadar Pro Perspectives'ta Ken Bastiaensen'in yayımlanan yazısına göre, işletmeler yapay zekâyı kullanmaya başladıkça güvenlik riskleri artıyor; ancak yapay zekâdan tamamen kaçınmak da risk taşıyor.

Yazı, yapay zekâ araçlarının tekrarlanan işleri hızlandırabileceğini, ancak muhasebe, raporlama, belge yönetimi ve müşteri ilişkileri yönetimi gibi şirket sistemlerine erişmeleri gerekebileceğini belirtiyor. Bu erişim iyi yönetilmezse müşterilere, çalışanlara veya yatırımcılara ait hassas bilgiler açığa çıkabilir.

Tehditlerden biri istem enjeksiyonu: Büyük dil modelleri veriyi talimatlardan ayırmakta zorlanabilir; bu nedenle bir araç e-posta, belge veya web sayfasında gizlenmiş kötü amaçlı yönergeleri izleyebilir. Bir diğer tehdit veri sızıntısıdır; örneğin gizli bilgiler bir web aramasına veya URL'ye eklenebilir. Yazı, güvenilmeyen girdilerin, hassas verilere erişimin ve dış sistemlerde işlem yapmanın bir araya gelmesini “Lethal Trifecta” olarak adlandırıyor.

Yazıda aktarılan Turbotic araştırmasına göre, iş dünyası liderlerinin %51'i çalışanların hassas şirket verilerini yetkisiz yapay zekâ araçlarına girmesinden, %36'sı ise yapay zekânın denetimsiz kullanılmasından endişe ediyor. Yazı bu durumu “Shadow AI” olarak adlandırıyor ve temel sorunun izlenebilirlik ile insan incelemesinin eksikliği olduğunu savunuyor.

Yazı; izin verilen araçlar, veri erişimi ve yapılabilecek işlemler için açık kuralların yanı sıra inceleme süreçleri ve insan denetimi öneriyor. Ayrıca World Economic Forum ve Accenture raporuna göre kuruluşların %1'inden azı sorumlu yapay zekâyı tamamen işleyişine katmış durumda. Bastiaensen, yapay zekâ kullanımı yaygınlaştıkça şirketlerin şeffaf ve denetlenebilir sınırlar belirlemesi gerektiğini savunuyor.