Signal yöneticisi, dikkatsiz yapay zekâ kullanımının gerçek tehdit olduğunu söylüyor

Signal Foundation'ın başındaki Meredith Whittaker, yapay zekânın temel tehlikesinin insanlığa karşı dönmesi korkusu değil, dikkatsiz kullanımı olduğunu söylüyor. BBC Global Women'a verdiği röportajda bu korkuların “bilime dayanmadığını” belirten Whittaker, yapay zekâ riskinin gerçek olduğunu söyledi.

Whittaker, CNN'in haberleştirdiği iddia edilen bir olaya işaret etti: ABD istihbaratının kullandığı bir sohbet robotu, nükleer madde taşıyan bir Çin gemisi hakkında bilgi uydurdu. Habere göre hata, ABD'nin askerî karşılık hazırlamasına yol açtı. Whittaker BBC'ye “Çin'le neredeyse savaşa giriyorduk” dedi. Kaynak metinde CNN'in haberi ve Whittaker'ın anlatımı bağımsız olarak doğrulanmıyor.

Whittaker daha önce, ABD Savunma Bakanlığı'nın insansız hava araçlarına hedef belirlemek için yapay zekâ geliştirmeye yönelik sözleşmesi Project Maven'e karşı çıktı. Sistemin “kötü istihbaratı ve kötü verileri aklayabileceği” uyarısında bulunduğunu söyledi. 2018'de yaklaşık 20.000 çalışanın katıldığı bir iş bırakma eyleminin düzenlenmesine yardımcı oldu. Google daha sonra sözleşmeyi bıraktı; sözleşmeyi Palantir devraldı.

Whittaker ayrıca Project Maven ile bu yıl İran'da bir okula düzenlenen ABD füze saldırısı arasında bağlantı kuruyor; saldırıda sistemin ve güncelliğini yitirmiş istihbaratın kullanıldığını söylüyor. Palantir, yazılımının hatalı olduğuna dair “kanıt bulunmadığını” ve temel verilerden sorumlu olmadığını belirtti. BBC'ye göre ABD ordusu soruşturma bulgularını henüz açıklamadı.

Whittaker, Signal'den şifrelemesini zayıflatmasını isteyen her pazardan çekileceğini söylüyor. Uygulama Rusya, Çin ve İran'da tamamen veya kısmen engellenmiş durumda.