AI-ledare vill se återhållsamhet, men inget företag har försenat en frontier-modell

Flera ledande AI-företag stöder en uppmaning att bromsa utvecklingen av frontier-AI, men inget har pekat ut en modell som ska försenas. Anthropic-vd:n Dario Amodei föreslog att man ska ge frontier-utvecklingen ett långsammare tempo i en text där han varnade för att AI-förmågor utvecklas snabbare än skyddsåtgärderna. OpenAI:s vd Sam Altman och Demis Hassabis, vd för Google DeepMind, stödde idén.

Förslaget fokuserar på oberoende utvärderare, övervakning, gemensamma säkerhetsstandarder och internationellt samarbete. Det definierar inte om en långsammare utveckling innebär mer säkerhetstestning eller längre tid mellan större lanseringar. Utan en offentlig lanseringsplan är innebörden av ett långsammare tempo fortfarande oklar.

USA:s vicepresident JD Vance sade att det kändes ovanligt att frontier-AI-företag bad regeringen att reglera dem och kallade situationen för ett möjligt “Trojan horse”. Hans kommentarer synliggör spänningen mellan återhållsamhet och fortsatt konkurrens. Anthropic lanserade Claude Fable 5.1 och Mythos 5.1, medan OpenAI presenterade GPT-6 Astra, innan Amodeis senaste uppmaning.

Amodei har pekat på risker som cyberattacker, bioterrorism, ekonomiska störningar och system som människor kan få svårt att kontrollera. Karolis Kaciulis, ingenjör på Surfshark, sade att extrema varningar kan ta uppmärksamheten från aktuella problem som nätfiske, deepfake-bedrägerier, automatiserade bedrägerier och hot. Artikeln konstaterar att förslaget behöver oberoende utvärdering och mätbara åtaganden för att få praktisk kraft.