Şirketler ve hükümetler; hesapları mutabakatla eşleştirme, tedarikçilerle müzakere etme, belge imzalama ve kamu başvuruları yapma gibi görevler için yapay zekâ ajanlarını değerlendiriyor. Ancak bu sistemler bağımsız hareket ettikçe, yetenek yalnızca sorunun bir bölümünü oluşturuyor.
Merkezde hesap verebilirlik sorunu var: Bir ajanı kim yetkilendirdi, kimi temsil ediyor, yetkisinin sınırı nerede ve bir şey ters gittiğinde kim sorumlu olacak? Daha gelişmiş bir model tek başına bu açığı kapatmayacak.
Makale, ajanların açık izin sınırlarına ve her eylemi yetkilendiren kişiye bağlayan bir denetim kaydına ihtiyaç duyduğunu savunuyor. İzinler, bir ajanın finansal bilgileri değiştirmeden görüntülemesine, bir ödemeyi onaylamadan hazırlamasına veya belirli tedarikçilerden sabit bir tutarı aşmadan sipariş vermesine olanak tanıyabilir. Bu izinler bir işlem, bir iş günü ya da belirli bir sözleşme sonrasında sona erebilir; yetki, sorumlu kişinin kimlik bilgileri değiştirilmeden geri alınabilir.
Estonya, haziran ayında devlet destekli bir yapay zekâ ajanı kayıt sistemi geliştirmeye başladı. Mevcut teklife göre kişiye, bir veya daha fazla ajanla ilişkilendirilebilecek kayıtlı bir sayısal tanımlayıcı verilecek. İşlemler makine tarafından yapılmış sayılacak; doğal kişi kimlik çıpası olarak sorumluluğu taşıyacak.
Teklif, Estonya’nın dijital kimliklerine ve yetki devri sistemlerine dayanıyor. Makale, yapay zekâ ajanlarının kimi temsil ettiğini, ne yapabileceğini ve sorumluluğun kimde kaldığını belirleyen teknik ve hukuken bağlayıcı bir çerçeveye ihtiyaç duyduğunu belirtiyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.