Yapay zekâ yanlış işe verildiğinde güveni kaybediyor

TechRadar yazarı Luis Blando, yapay zekânın ancak güçlü olduğu alanlara uygun işler verildiğinde ve sınırlarını bilen insanlar tarafından denetlendiğinde güven kazandığını savunuyor. Aşırı özgüvenli uygulamalar, çalışanları yeterli deneyim olmadan ajanları yönetmek zorunda bırakabilir; görünür tek bir hata da güveni hızla sarsabilir.

Yapay zekâ olasılıklarla çalışır. Bu nedenle belirsiz veya karmaşık bilgilerle çalışırken yararlı olabilir, ancak yanlış cevabın ciddi sonuçlar doğurabileceği işler için uygun değildir. Blando, yapay zekânın yardımcı olabileceği üç alan belirliyor: belgeleri işleme, karar desteği ve kişiselleştirme.

Belge yoğun işlerde yapay zekâ materyalleri çıkarabilir, sınıflandırabilir ve özetleyebilir; sözleşmeleri standart maddelerle karşılaştırabilir veya müşteri e-postalarını konularına göre düzenleyebilir. Karar desteğinde geçmiş performans, teslimat beklentileri ve indirimleri bir araya getirerek seçenekler sunabilir, ancak son seçimi genellikle bir insan yapar.

Kişiselleştirme de içerik yalnızca kişiye uygun hissettirecek kadar iyi olduğunda olasılıksal çıktılardan yararlanabilir. Risk, doğrulanmamış bir cevabın eylem başlatmasına izin vermektir: sözleşmedeki küçük bir hata kayıtlara, şirket dışına gönderilen mesajlara veya yeni yazılımlara yayılabilir.

Blando, yapay zekâyı süper zekâlı ve çalışkan bir stajyere benzetiyor: hassas bilgilere erişim sınırlı olmalı, kontrol ancak sistem kendini kanıtladıktan sonra artırılmalı ve insanlar çalışmasını izlemeyi sürdürmeli. Yazılım geliştirmede hızlı üretilen yapay zekâ kodu kalite ve yönetim sorunları yaratabilir. Gartner, artan token tüketimi ile tüketime dayalı fiyatlandırmanın yapay zekâ ile kodlama maliyetlerini artırdığını bildirdi.

Blando, yapay zekânın akıl yürütmesine izin verilebilecek en riskli yerin uygulama katmanının derinlikleri olduğunu söylüyor. Daha güvenli bir tasarım, yapay zekâyı insanların önerilerini inceleyebileceği iş fikirlerine ve kurallarına daha yakın tutar; ardından deterministik bir platform doğrulanmış modeli çalıştırılabilir yazılıma dönüştürür. Soyutlama, küçük hataların etkisini sınırlayabilir.