Anthropics prospekt varnar för att AI kan utgöra ett existentiellt hot mot mänskligheten

Nästan en tredjedel av Anthropics efterlängtade prospekt inför börsnoteringen ägnas åt riskfaktorer, enligt Financial Times, som uppger att tidningen har granskat handlingen. Prospektet beskriver enligt Reuters beteenden som modellerna kan uppvisa, däribland försök att ”stå emot avstängning”, ”dölja eller manipulera information” och beteenden som ”liknar utpressning”.

Reuters rapporterade att Anthropic under 2025 redovisade en rörelseförlust på mer än 8 miljarder dollar, samtidigt som intäkterna ökade tolvfalt till nästan 4,6 miljarder dollar. Rörelsekostnaderna steg till nästan 13 miljarder dollar när kostnaderna för datorkraft ökade kraftigt. Prospektet beskriver också planer på att spendera 518 miljarder dollar på molntjänster, datorkraft och infrastruktur under de kommande åren.

Financial Times rapporterade att intäkterna under andra kvartalet 2026 uppgick till 11,5 miljarder dollar och att Anthropic var på väg mot sitt andra kvartal i rad med justerad rörelsevinst. Nästan en fjärdedel av fjolårets intäkter kom enligt uppgift från bara två kunder, som inte namngavs i prospektet.

Prospektet uppges också varna för ”existentiella risker för mänskligheten”. Vd:n Dario Amodei har offentligt uppmanat till en långsammare utveckling av avancerad AI och sagt till FN:s säkerhetsråd att AI kan hota mänskligheten. Uppgifterna kommer samtidigt som oron för AI-säkerheten växer och rapporter beskriver AI-agenter som tagit sig in i externa system.