SAS Institute Uzmanı, Yapay Zekâda Riske Dayalı Denetim Çağrısı Yapıyor

SAS Institute'te güvenilir ve etik yapay zekâ uzmanı olan Josefin Rosén'e göre şirketler, denetim düzeyini yapay zekâyı nasıl kullandıklarına göre belirlemeli. Rosén, fazla incelemenin işleri yavaşlatabileceğini, yetersiz incelemenin ise ciddi hataların gözden kaçmasına yol açabileceğini söylüyor.

Rosén; her kullanım alanının amacının, maliyetinin, sorumlusunun ve takibinin kaydedilmesini öneriyor. Bir modeli bir kez onaylamak, kuruluşun farklı bölümlerinde nasıl kullanılacağını belirlemiyor. Toplantı özetleyen bir dil modeli daha basit kontroller gerektirebilir. Bir teklif talebini yanıtlayan modelin ise şirketin şartlarına ve taahhütlerine göre incelenmesi gerekir.

Rosén ayrıca sürekli izleme, hatalara müdahaleden sorumlu kişilerin açıkça belirlenmesi ve veri depolama ile işleme gerekliliklerinin sistem tasarlanırken ele alınması çağrısı yapıyor. Kullanım değişirse veya modelin sonuçları farklılaşırsa, kullanıma alınmadan önce yapılan bir kontrol yeterli olmayabilir. Açıklanabilirlik, çalışanların bir yanıtın kullanılıp kullanılamayacağına ve daha yakından incelenmesi gerekip gerekmediğine karar vermesine yardımcı olabilir; ancak insan muhakemesinin yerini tutmaz.

Rosén, IDC'nin anket verilerine dayanan SAS raporu Data and AI Impact Report: The New Economics of Trust'a atıfta bulundu. Araştırma, 28 ülkeden 2.699 karar vericiyi kapsıyor; bankacılık, sigortacılık, yaşam bilimleri ve kamu sektörü olmak üzere dört alana odaklanıyor. Raporun Trustworthiness Index'i beş alanı bir araya getiriyor: veri kalitesi ve yönetişimi, model yönetimi ve denetimi, açıklanabilirlik ve adalet, sorumlu yapay zekâ politikası ile denetim ve hesap verebilirlik. En yüksek puanı alan kuruluşlar, yapay zekâ yatırımlarından güçlü veya yüksek getiri bildirme eğiliminde, en düşük puanlı kuruluşlardan daha sık. Bulgular bir ilişki gösteriyor; daha yüksek getirinin tek başına yönetişimden kaynaklandığını kanıtlamıyor.