Yapay zekâ halüsinasyonu ABD askeri operasyonunu neredeyse tetikliyordu

CNN'in haberine göre, askeri uçaklar bu ilkbaharda havadayken ABD'li yetkililer, Çin bandıralı bir gemiye yönelik silahlı operasyona dayanak oluşturan istihbaratın bir yapay zekâ sohbet robotu tarafından üretildiğini fark etti. Operasyon son anda iptal edildi ve Çin'le olası bir çatışma kıl payı önlendi.

İran'la savaş sırasında dolaşıma giren istihbarat raporunda, geminin nükleer silah programı için parçalar taşıdığı iddia edildi. Rapora göre Special Operations Command bünyesindeki bir analist, açık kaynaklı bilgileri gizli sinyal istihbaratıyla birleştirmek için bir yapay zekâ sohbet robotu kullandı. Sohbet robotu geminin yük manifestosunu yanlış tanımladı. Analist daha sonra hatalı bulguları resmî görünümlü bir özete dönüştürmek için aracı yeniden kullandı ve bu özet komuta kanallarında dolaşıma girdi.

Olay, ABD ordusu kararları hızlandırmak ve Çin karşısındaki üstünlüğünü korumak için yapay zekâ kullanmaya çalışırken, yapay zekâ hatalarının sorgulanmadan komuta zincirinde ilerleyebileceğine ilişkin endişeleri artırdı. Pentagon, yapay zekânın öldürme zincirini hızlandırabileceğini söyledi; ancak yetersiz insan denetimi, hızlı benimsemenin halüsinasyonları da yaymasına yol açabilir.

GovAI araştırma görevlisi ve eski U.S. Army subayı Jake Steckler, TechCrunch'a yazılı açıklamasında “Askerlerin LLM'lerin doğasında bulunan belirsizliği anlaması önemli” dedi. Hedefleme, istihbarat analizi ve operasyon planlamasında güvencelerin özellikle önemli olduğunu belirten Steckler, olayın teknolojiden vazgeçmek yerine daha güvenli kullanımı teşvik etmesi gerektiğini söyledi.