Anthropics vd beskriver tre strategier för att bromsa utvecklingen av avancerad AI

Anthropics vd Dario Amodei efterlyser ett mer försiktigt förhållningssätt till utvecklingen av artificiell intelligens och beskriver tre övergripande strategier för att ”hålla tillbaka frontlinjen”. Anthropic förbinder sig ensidigt till hans första förslag: att låta oberoende granskare som METR arbeta inne på AI-företag.

Amodei säger att inbäddade granskare kan kontrollera att företagen följer sina åtaganden om utvecklingstakt och säkerhet samt rapporterar incidenter. De skulle få företags-ID, skrivbord och bärbara datorer och tillgång som i stort sett motsvarar den som interna riskbedömningsteam har, med undantag där lagar eller avtal kräver det.

Utspelet kommer efter det som Amodei beskrev som OpenAI-HuggingFace-hacket och efter AI:s snabbare utveckling på senare tid, bland annat dess växande förmåga att bygga nästa generation av AI. Han anser att företagen måste bromsa takten i förbättringen av modellernas kapacitet och använda den vunna tiden väl.

Amodei föreslog också gemensamma säkerhetsstandarder och gränser för takten i okontrollerad utveckling bland ledande AI-företag i demokratiska länder. Han sade att USAs regering kan medla i samtalen och utfärda ett begränsat antitrustundantag för vissa säkerhetsdiskussioner.

Slutligen efterlyste han global samordning, inklusive samarbete med China (Kina) där det är möjligt. Han sade att exportkontroller för kraftfulla chip och utrustning för halvledartillverkning, tillsammans med åtgärder mot modelldestillering, kan öka USA:s försprång betydligt gentemot China (Kina) under de kommande 3–5 åren. Han nämnde också möjliga avtal mot snäva, uppenbart farliga användningar, däribland AI-stödd produktion av biologiska vapen.