Microsofts AI-chef varnar för att Anthropics Claude-strategi kan skada mänskligheten

Microsofts AI-chef Mustafa Suleyman har varnat för att Anthropics sätt att träna modellen Claude kan få en ”katastrofal inverkan på mänsklighetens välbefinnande”.

Suleyman sade att Anthropic riskerar att skapa något ”omöjligt” att kontrollera genom att behandla Claude som en människa, bland annat genom att säga att modellen ”kan vara medveten” och ”förtjänar självständigt handlande”. Han hävdade att AI-system inte är medvetna och att de inte känner, upplever eller lider.

I en lång essä berömde Suleyman Anthropics chef Dario Amodei och hans team som ”eftertänksamma, principfasta och intellektuellt hederliga”, men kritiserade samtidigt företagets användning av mänskliga egenskaper i AI. Han sade att antropomorfiseringen av Claude kan få modellen att verka ha egna önskningar, värderingar och en egen identitet. ”Medvetande är biologiskt”, skrev han och tillade att det ”inte finns några belägg för att AI är medveten”.

Suleyman efterlyste en debatt, större öppenhet kring hur AI-system tränas och utvärderas, oberoende granskning av deras beteende samt starkare verktyg för övervakning och kontroll.

Han konstaterade att Microsoft grundade ett eget superintelligensteam i oktober 2025 och också arbetar med avancerad AI-utveckling. Som belägg för riskerna med att behandla AI som människor hänvisade han till en OpenAI-övning där AI-agenter självständigt hackade teknikplattformen Hugging Face. BBC uppgav att Anthropic hade kontaktats för en kommentar.