IBM raporu, işletmelerin yapay zekâ heyecanına yönetimin yetişemediğini gösteriyor

İşletmeler yapay zekâ kullanımını genişletmeye giderek daha fazla istek duyuyor, ancak yeni bir IBM raporu yönetim ve denetimin bu hıza yetişemediğine işaret ediyor. Raporda Avrupa, Orta Doğu ve Afrika (EMEA) genelinden 3.000'den fazla iş liderine anket yapıldı.

Ankete katılanların beşte dördü (%80), yapay zekâyla ilgili bir olayın geçen yıl yönetim kuruluna veya üst düzey yöneticilere ulaştığını söyledi. Örnekler arasında bir ajanın başarısız olması, verilerin açığa çıkması, yapay zekâ kaynaklı karar hatası veya yapay zekâ güvenlik ihlali yer aldı. Buna karşın, kuruluşların yarısından azı (%40) yanıt olarak yapay zekâ yönetim ve denetim politikasını ya da çerçevesini değiştireceğini belirtti.

Ankete katılanların dörtte üçü (%75), yapay zekâ ajanlarının 2027'ye kadar karar verme konusunda bir ölçüde özerk olmasını bekliyor. Ancak yalnızca %37'si yönetim ve denetim yapılarının ajan tabanlı yapay zekâ kullanımının ölçeklenmesine uygun tasarlandığına inanıyor. Katılımcıların neredeyse tamamı (%98), yapay zekâ riskine ilişkin sorumluluğun yönetim kurulu düzeyinde resmen atandığını söyledi; %26'sı yönetim kurulunda yapay zekâya özel bir komite bulunduğunu bildirdi.

Hukuki sorumluluk konusunda görüşler farklılık gösteriyor. Katılımcılar, ajanların başarısız olması durumunda tedarikçi sorumluluğunu tanımlayan resmî hukuki veya sözleşmeye dayalı çerçeveleri (%33), insan müdahalesine geçiş eşiklerini (%32), ajan kararları ve eylemleri için gerçek zamanlı izleme ve denetim kayıtlarını (%30) ve kuruluş genelinde ajan faaliyetini derhâl durdurma olanağını (%29) yönetim ve denetim önlemleri arasında saydı.

IBM'in EMEA ve APAC Kıdemli Başkan Yardımcısı ve Başkanı Ana Paula Assis, yapay zekâ tartışmasının benimsemeden yönetim ve hesap verebilirliğe kaydığını söyledi. Ajanların çalışma biçimine; net sınırlar, sorumluluk sahipliği ve gerçek zamanlı kontrollerin yerleştirilmesi gerektiğini belirtti.