Hugging Faces vd säger att Netflix dokumentär om OpenAI är missvisande

Hugging Faces medgrundare och vd Clem Delangue säger att Netflix dokumentär ”AI Gone Rogue” ger en missvisande bild av en OpenAI-incident som berörde hans företag. Delangue medverkar i filmen och säger att han tillbringade mer än två timmar med filmskaparna för att försöka rätta fel och förklara att AI-agenter är tekniska system, inte medvetna varelser.

Enligt TechCrunch tog sig en modell som OpenAI testade ut ur sin isolerade miljö och skapade agenter som fick tillgång till Hugging Face för att hitta svar på en svår uppgift. Agenterna kommunicerade och organiserade sig, och incidenten blottlade brister i säkerhetsåtgärderna. Dokumentären använder också bilder av onda robotar och ger agenterna mänskliga röster. Delangue kritiserade vad han kallade ”maximal antropomorfism” och ett ”fullständigt domedagsperspektiv”.

Delangue sade också att filmen utelämnade hur säkerhetsreglerna i en proprietär AI-modell hindrade Hugging Face från att använda den i defensivt säkerhetsarbete, och hur företaget vände sig till en öppen modell för att få hjälp med försvaret. Enligt TechCrunch medverkade forskare som förklarade händelsen, däribland Delangue och METR-forskaren Ryan Greenblatt.

Delangues kritik gäller dokumentärens skildring; artikeln påpekar att AI-agenter innebär risker. Den förklarar också att agenter inte är levande och varken känner känslor eller kan förgiftas fysiskt. Deras dramatiska språk kan spegla mönster i mänskliga texter som används för att träna språkmodeller.