TechRadar'ın aktardığı CNN haberine göre, yapay zekâ destekli bir istihbarat raporu, bir sohbet botunun Çin gemisinin yükünü yanlışlıkla nükleer madde olarak tanımlamasının ardından ABD Ordusu'nun gemiye çıkmasına ramak kala yol açtı. Sistemin yanlış tanımladığı maddenin ne olduğu kamuoyuna açıklanmadı.
CNN'e konuşan kaynaklar, askeri uçaklar hazırlıklara destek verirken silahlı personelin gemiye çıkmaya hazırlandığını söyledi. Yetkililer, planlanan operasyondan kısa süre önce dayanak bilgileri inceleyerek yük tanımının yanlış olduğunu fark etti. Bir kaynak değerlendirmeyi “tamamen yanlış” diye niteledi; başka bir kaynak CNN'e bunun “neredeyse savaş başlatacağını” söyledi.
Olay, bir analistin geminin manifestosuna ilişkin bilgileri yorumlamak için sohbet botu kullanmasıyla başladı. Kaynaklara göre sistem, kamuya açık materyalleri gizli sinyal istihbaratı bilgileriyle birleştirdi. Analist daha sonra bulguları standart bir istihbarat formatına sokmak için yeniden yapay zekâ kullandı; rapor askeri yetkililere dağıtıldı. Analistin rapor dağıtılmadan önce yanlış yorumlamayı bilip bilmediği veya hangi doğrulama prosedürlerinin uygulandığı belirsiz.
Habere göre Pentagon ve Pasifik özel harekâtlarından sorumlu askeri komutanlık olay hakkında yorum yapmadı. Olay, ABD ordusunun yapay zekâ kullanımını genişlettiği dönemde yaşandı. Savunma Bakanı Pete Hegseth, ocak ayında askeri görevler ve kurumsal işlevlerde yapay zekâ kullanımını hızlandırma stratejisi açıkladı. Bakanlık daha sonra 1.300.000'den fazla personelin GenAI.mil'i kullandığını ve beş ayda on milyonlarca istem oluşturduğunu bildirdi.
CNN, farklı askeri kuruluşların farklı yapay zekâ sistemleri kullandığını ve bunların çıktılarını kontrol etme uygulamalarının değiştiğini aktardı. Kaynak haberde, hatanın önemli askeri kararların alındığı bir sürece girdiği belirtiliyor; ancak yapay zekâ destekli tüm istihbarat ürünleri için geçerli tek bir doğrulama süreci tanımlanmıyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.