Chefer för OpenAI, Anthropic och Hugging Face vill se AI-standarder i FN

Cheferna för OpenAI, Anthropic och Hugging Face sade till Förenta nationerna att takten i utvecklingen av artificiell intelligens och riskerna den medför för samhället kräver internationell samordning.

OpenAI-chefen Sam Altman efterlyste gemensamma standarder för att utvärdera AI-systemens förmågor och risker, införa skyddsåtgärder och bedöma hur mycket mänsklig tillsyn som finns kvar. Han uppmanade också länder att ta fram snabbare protokoll för incidentrapportering, klassificering och offentliggörande, så att världen kan lära av misslyckanden innan de blir katastrofer.

”Om AI ska vara demokratisk kan de viktigaste besluten inte fattas enbart av laboratorier i San Francisco”, sade Altman. Han efterlyste nationellt och internationellt samarbete för det han beskrev som det gemensamma bästa.

Anthropics chef Dario Amodei gjorde liknande uttalanden och sade att AI som hanteras dåligt kan innebära en risk för hela mänskligheten. Han sade att den fortsatta utvecklingen kräver strängare säkerhetsstandarder och att Anthropic kommer att sakta ned så mycket som behövs för att säkerställa att företagets AI-teknik är säker när den släpps.

Hugging Faces chef Clement Delangue efterlyste också starkare globala standarder för övervakning och incidentrapportering.

Vid samma FN-konferens medgav Michael Kratsios, teknisk rådgivare åt USA:s president Donald Trump, att AI-utvecklingen går snabbare och innebär risker. Han avvisade att utvecklingen skulle pausas eller begränsas genom nya globala styrningsstrukturer.