Finans sektöründe yapay zekâ riski yanıtlardan eylemlere kayıyor

Finans sektörü, soruları yanıtlayan yapay zekâdan eyleme geçen sistemlere doğru ilerliyor. Birleşik Krallık hükümetinin Financial Services Adoption Plan planı, sektörü dolandırıcılık incelemeleri, hasar talepleri ve uyum çalışmaları dâhil temel süreçlerde yapay zekâyı yaygınlaştırmaya çağırıyor.

Bu değişim, sorumluluğu izlemeyi zorlaştırıyor. Modelin açıklanabilirliği, sorunun yalnızca bir parçası: şirketlerin bir ajanın hangi sistemlere eriştiğini, ne yaptığını ve bir kişinin eylemlerini nerede gözden geçirip değiştirdiğini de görebilmesi gerekiyor. Financial Conduct Authority (FCA) Başkanı Nikhil Rathi, teknolojinin rolünün “koordine etmek ve işlem yapmak” yönünde geliştiğini söyledi.

Kaynağa göre Birleşik Krallık (UK) finans sektöründeki yöneticilerin %48’i şirketlerinin ajan tabanlı yapay zekâ kullandığını söylüyor; dörtte birinden fazlası ise yasa ve düzenlemelere uyumu sağlamak için hiç kontrol olmadığını ya da kontrollerin sınırlı kaldığını bildiriyor. Ajanlar sistemler ve araçlar arasında geçiş yapabiliyor; böylece kararlar tek bir sorumluya açıkça bağlanmak yerine iş akışına dağılıyor.

Örneğin bir sigorta talebinde bir ajan kanıtları toplayıp dosyayı daha ayrıntılı incelemeye yönlendirebilir; bir başkası müşteriye ulaşabilir veya ödemenin bekletilmesini önerebilir. Şirketlerin, ajanın girdileri, kullandığı araçlar, uygulanan kurallar ve insan incelemesi dâhil bir sonucun nasıl ortaya çıktığını yeniden kurmaya yetecek bilgiye ihtiyacı var.

Kaynak, denetimin eylemin sonuçlarına göre belirlenmesi gerektiğini savunuyor. Rutin idari işler izleme gerektirebilirken banka hesabını kısıtlama, talebi reddetme veya dolandırıcılık iddiasını üst kademeye taşıma gibi eylemler daha güçlü insan denetimi ve karara itiraz etme ya da kararı geri alma olanağı gerektiriyor.

Kaynağa göre yapay zekâ ajanları tekrarlayan işleri azaltabilir; ancak kullanımlarını yaygınlaştırmak için net sorumluluk, tanımlı izinler ve üçüncü taraf hizmetlerin faaliyetleri dâhil tüm iş akışını kapsayan kayıtlar gerekiyor.