Signal-chefen säger att vårdslös AI-användning är ett verkligt hot

Meredith Whittaker, chef för Signal Foundation, säger att den främsta faran med artificiell intelligens är vårdslös användning, inte rädslan för att den ska vända sig mot mänskligheten. I en intervju med BBC Global Women kallade hon sådana farhågor ”inte förankrade i vetenskapen” och sa att AI-riskerna är verkliga.

Whittaker hänvisade till en påstådd händelse som CNN rapporterat om, där en chattbot som användes av USA:s underrättelsetjänst hittade på information om ett kinesiskt fartyg som transporterade kärnmaterial. Enligt rapporten ledde misstaget till att USA förberedde ett militärt svar. ”Vi var nära att hamna i krig med Kina”, sa hon till BBC. Källmaterialet bekräftar inte CNN:s rapport eller Whittakers beskrivning oberoende.

Whittaker motsatte sig tidigare Googles Project Maven, ett avtal med USA:s försvarsdepartement om att utveckla AI för målangivelse med drönare. Hon sa att hon varnade för att systemet kunde ”tvätta dålig underrättelseinformation och dåliga data”. År 2018 hjälpte hon till att organisera en personalstrejk med omkring 20 000 anställda. Google avslutade senare avtalet, som Palantir tog över.

Whittaker kopplar också Project Maven till en amerikansk robotattack mot en skola i Iran i år och säger att den byggde på systemet och föråldrad underrättelseinformation. Palantir sa att det inte fanns ”några bevis” för att företagets programvara var skyldig och att företaget inte ansvarade för grunddata. Enligt BBC har den amerikanska militären inte offentliggjort utredningens resultat.

Whittaker säger att Signal skulle lämna varje marknad som tvingade tjänsten att försvaga krypteringen. Appen är helt eller delvis blockerad i Ryssland, Kina och Iran.