Yapay zekâ ajanlarının bilgi kaynaklarını daha açık kaydetmesi gerekiyor

TechRadar’da Yaniv Tal imzasıyla yayımlanan makaleye göre yapay zekâ ajanları, bilgilerini nereden aldıklarını gösterecek güvenilir yöntemlere ihtiyaç duyuyor. Makale, denetimin sistem davranışının yanı sıra yapay zekâ sonuçlarının dayandığı kanıtları da incelemesi gerektiğini savunuyor.

Yapay zekâ sistemleri arama sonuçlarından, şirket kayıtlarından, araştırma makalelerinden ve diğer yapay zekâ sistemlerinin ürettiği içeriklerden yararlanabiliyor. İddialar internette kopyalanıp özetlendikçe ilk kanıtlarla bağlantılarını izlemek zorlaşabiliyor. Akıcı bir yanıt, hakemli araştırmalar, şirket duyuruları ve anonim paylaşımlar arasındaki farkları da belirsizleştirebiliyor.

Makale, güvenilir kaynaklar fikir ayrılığına düştüğünde bile yapay zekâ sistemlerinden çoğu zaman işe yarar bir yanıt beklendiğini söylüyor. Bu durum belirsizliği görünmez kılabiliyor. Ajanlar sonuçlarına dayanarak işlem yaptığında kaygı artıyor; örneğin alım satım işlemi yapabiliyor, satın alımları onaylayabiliyor, yazılımı değiştirebiliyor veya mesaj gönderebiliyorlar.

Tal, akıl yürütme karmaşıklaştıkça zincirleme düşünce izlemenin güvenilirliğinin azaldığını yazan OpenAI baş bilim insanı Jakub Pachocki’ye atıfta bulunuyor. Pachocki, üçüncü taraf denetçilerin, kamu kurumlarının veya uluslararası kuruluşların uygulayabileceği güvenlik eşikleri çağrısı yaptı.

Makale, denetim için iddianın kaynağını, dayanak kanıtları, kaynağın güvenilirliğini ve güvenilir kaynaklar arasındaki görüş ayrılıklarını gösteren kayıtların da gerektiğini savunuyor. Kopyalama ve dönüştürme boyunca korunan kaynak izleme kayıtları ile doğrulama ve hesap verebilirliğe ilişkin ortak standartların bağımsız denetimini öneriyor. Sağlanan makale metni cümlenin ortasında kesildiği için tam sonuç bölümünü içermiyor.