Yapay zekâ ajanları üretimden önce yönetilen kurumsal veriye ihtiyaç duyuyor

Yöneticiler, yapay zekâ ajanlarının üretime hazır olup olmadığını soruyor. Ancak TechRadar yazarı Jerry Caviston, ilk sorunun bu ajanların erişebileceği verilerle ilgili olması gerektiğini savunuyor. Model güvenliği ve performansı; güncel olmayan müşteri bilgilerini, yinelenen kayıtları veya hiç düzgün sınıflandırılmamış içerikleri telafi edemez.

Kuruluşların kullanıma almadan önce yönetilen girdilere, uygun erişim denetimlerine ve ajanın ürettiklerine ilişkin güvenilir kayıtlara ihtiyacı var. Yönetim ve denetim; kararları, talimatları, alınan içerikleri ve belgeleri de kapsamalı. Çünkü yapay zekâ kurumsal açıdan önemli kararlara katkı verdiğinde izlenebilirlik ve savunulabilirlik önem kazanıyor.

Caviston, kuruluşların hassas ve düzenlemeye tabi bilgileri belirlemesi, sınıflandırma ve saklama politikalarını uygulaması, güncel kaynakları güvenilmez eski verilerden ayırması gerektiğini söylüyor. Seçilen veri kümeleri, bilgilere anlam kazandıran bağlamı ve ilişkileri korumalı.

Ajanlara yalnızca tanımlanmış görevleri için gereken veriler verilmeli. Örneğin müşteri hizmetleri ajanı güncel hesap ve işlem bilgilerine ihtiyaç duyabilir; ancak hukuk dosyalarına veya eski çalışan kayıtlarına ihtiyaç duymayabilir. Kuruluşlar, inceleyen kişilerin bir işlemi yeniden oluşturabilmesi için istemleri, çıktıları ve sonuç kararlarını da saklamalı.

Makale, sorumluluğun yalnızca teknoloji ekiplerine bırakılamayacağını belirtiyor. Güvenlik, veri, gizlilik, hukuk ve uyum liderlerinin rolleri bulunurken, adı belirlenmiş bir iş sahibi sorumlu kalmalı. Makale TechRadar Pro Perspectives kapsamında yayımlandı; görüşler yazara ait ve zorunlu olarak TechRadarPro veya Future plc'yi yansıtmıyor.