Pentagons AI-avtalsutkast ifrågasätts av OpenAI

Dokument som offentliggjordes genom en rättsprocess enligt Freedom of Information Act uppges visa att Pentagon sökte ett OpenAI-system med färre begränsningar för nationellt säkerhetsarbete.

Dokumentet beskrev modeller som skulle ha “minimal refusal rates” i vissa militära tillämpningar. Det gällde testning, utvärdering och förbättring av OpenAI-modeller för försvarsrelaterad verksamhet.

OpenAI och Pentagon ifrågasatte formuleringen. OpenAI:s talesperson Nate Evans sade att frasen inte fanns i det verkställda avtalet och beskrev dokumentet som ett tidigare utkast från Department of Defense, som hade lagts fram innan OpenAI gav synpunkter. En representant för Department of Defense sade också att frasen inte finns i något aktivt avtal.

En Pentagon-jurist bekräftade först dokumentet men tog senare tillbaka uttalandet. Pentagon-tjänstemannen Trevor Tiedeman sade att det kan ha uppstått en sammanblandning mellan offentliggjorda handlingar och verkställda avtal. Han sade också att han skulle undersöka hur dokumentet passerade granskningsprocesserna innan det blev offentligt.

The Intercept hade begärt färdiga avtalsregister kopplade till militära AI-avtal. OpenAI har inte offentliggjort hela avtalet, och betydande delar är fortfarande maskerade.

Det uppdaterade militäravtalet tillåter OpenAI:s tjänster i klassificerade statliga nätverk. OpenAI har sagt att avtalet begränsar användning av autonoma vapen och viss övervakning som rör amerikaner, men företaget och myndigheterna har inte helt redovisat hur gränserna ska tillämpas i olika militära scenarier.