USA:s krav på långsammare AI krockar med konkurrensen från Kina

Krav på att bromsa utvecklingen av avancerade AI-modeller får stöd från flera amerikanska AI-ledare, men möter motstånd från USA:s regering och Kina.

Efter att Anthropic-forskaren Jacob Coxon sagt upp sig och varnat för att okontrollerade framsteg kan skapa en omedelbar existentiell risk ställde sig Anthropic-chefen Dario Amodei, OpenAI:s vd Sam Altman och Grok-grundaren Elon Musk bakom ett långsammare tempo. Amodei sade att ett eller två extra år innan modeller når kritisk kapacitet kan ge tid att utveckla bättre anpassning och minska riskerna.

Amodei föreslog en plan i tre delar och sade att Anthropic skulle börja med att ge externa utvärderare permanent åtkomst på medarbetarnivå till företagets system. Utvärderarna skulle kontrollera säkerhetsåtgärder, rapportera incidenter och bedöma modellernas anpassning under träningen. Altman sade att AI-regler och standarder inte var redo för fortsatt acceleration.

President Donald Trump avvisade en inbromsning och hävdade att den skulle kunna låta Kina komma ikapp. Han sade att USA leder Kina inom AI och att den som vinner AI vinner. Beijing kallade förslagen skrämselpropaganda från en kalla kriget-mall. Kinas utrikesdepartements talesperson Guo Jiakun sade att konfrontation och konkurrens skulle störa den globala AI-styrningen.

Källan jämför också situationen med kärnvapenkapprustningen och uppger att fysikern Leó Szilárd diskuterade en koboltbomb 1950. Den hävdar att kontroller på företagsnivå får svårt att fungera utan samordning mellan Kina, USA och de stora AI-laboratorierna, samtidigt som företag behöver styra vad AI-agenter får komma åt, ändra och besluta på egen hand.