Yapay zekâ araçları, e-posta taslağı hazırlama, içerik özetleme ve rapor oluşturma gibi işlerde çalışanların günlük iş akışının bir parçası hâline geldi. Ancak kuruluşlar bu araçlara daha fazla güvendikçe yanlış kullanım ve sonuçlara gereğinden fazla güvenme riskleri de artıyor.
2023'te ABD'de avukatlar, ChatGPT'nin uydurduğu sahte atıflar içeren hukuki belgeler sundukları için yaptırıma uğradı. Bu örnek, yapay zekâ tarafından üretilen bilgilerin birincil kaynaklar denetlenmeden kullanılmasının tehlikesini gösteriyor. Halüsinasyonlar tek sorun değil: çalışanların onaylanmamış araçlara hassas bilgiler girmesi de güvenlik, gizlilik ve mevzuata uyum riskleri yaratabilir.
EU AI Act'in şeffaflık gereklilikleri, kapsam dâhilindeki kuruluşlar için 2 Ağustos 2026'dan itibaren geçerli. Kaynağa göre bu gereklilikler, işletmelerin yapay zekâyla etkileşimleri ve yapay zekâ tarafından üretilen veya değiştirilmiş içerik konusunda şeffaf olmasını ve personele uygun düzeyde yapay zekâ okuryazarlığı kazandırılmasını içeriyor. Kaynak, şeffaflık gerekliliklerinin ihlali hâlinde €15 milyon veya kuruluşun toplam yıllık cirosunun %3'ü kadar para cezası uygulanabileceğini bildiriyor.
MetaCompliance'ın teknoloji direktörü, doğrulama düzeyinin riskle orantılı olması gerektiğini savunuyor. Kurum içi taslaklar veya beyin fırtınası gibi düşük riskli işler için hafif örneklem kontrolleri yeterli olabilir. İstihdam veya finans kararlarında ya da müşterilere yönelik içeriklerde kullanılan çıktılar ise insan denetimiyle daha sıkı onay ve izleme gerektiriyor.
Kaynakta aktarılan araştırmaya göre CISO'ların %40'ı çalışanların hassas bilgileri üretken yapay zekâ platformlarıyla paylaşmasından endişe ediyor; %68'i ise çalışanları kuruluşlarının en büyük siber riski olarak görüyor. Kaynak; onaylanmamış yapay zekâ kullanımının haritalanmasını, güvenli alternatifler sunulmasını ve çalışanlara açık kurallar, eğitim ve doğrulama rutinleri sağlanmasını öneriyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.