OpenAI, Anthropic och Google DeepMind diskuterar AI-säkerhet

OpenAI har arbetat med Anthropic och Google DeepMind kring säkerheten inom artificiell intelligens i flera veckor, enligt Chris Lehane, OpenAI:s globala policychef.

Lehane sade till reportrar på tisdagen att företagen har diskuterat säkerhetsfrågor samtidigt som branschen möter varningar om katastrofala risker med avancerad AI. Uttalandet bekräftar tidigare rapportering och kommer efter en essä av Anthropics vd Dario Amodei, publicerad på lördagen, där han uppmanade AI-företag att samarbeta för att vid behov bromsa utvecklingen av avancerade AI-system.

OpenAI:s vd Sam Altman, Googles Demis Hassabis och SpaceXAI:s Elon Musk har stött Amodeis uppmaning. Altman har också sagt att OpenAI skulle samarbeta med Anthropic kring användningen av oberoende utvärderare för att övervaka säkerheten. Altman och andra har samtidigt påpekat att samordning mellan konkurrerande företag kan skapa antitrustproblem om den anses hämma konkurrensen.

Amodei föreslog ett begränsat statligt undantag för säkerhetssamarbete, men Lehane sade enligt rapporteringen att företagen inte behöver något sådant. The Information har också rapporterat att de tre företagen arbetar med ett branschorgan för standarder. Hassabis efterlyste ett liknande organ i juli.

President Trump har avfärdat oro för AI-säkerhet och motsatt sig hårdare regler. Han hävdar att en långsammare utveckling skulle ge Kina ett försprång. Vid samma möte sade Lehane att OpenAI stöder den del av FRONTIER Act som skulle kräva att ledande AI-laboratorier släpper in oberoende verifieringsorganisationer för att bedöma om modeller utvecklas på ett säkert sätt.