Google DeepMind startar institut för att bredda AGI-debatten

Forskare från Google och Google DeepMind har startat DeepMind Institute för att föra det offentliga samtalet om artificiell generell intelligens (AGI) framåt. Institutet listar DeepMinds medgrundare Shane Legg, Google-chefen James Manyika och Google DeepMinds ordförande Demis Hassabis som direktörer. Legg är chefredaktör.

Institutet vill lyfta fram olika uppfattningar från Google, Google DeepMind och det globala forskarsamhället. Den första samlingen innehåller fyra essäer om ekonomisk politik vid en möjlig AGI-störning, mänskligt läsbar modellresonemang, principer för mänskligt välbefinnande och ramverk för att utvärdera avancerade AI-modeller.

I en essä hävdar DeepMinds säkerhetsforskare Rohin Shah och Anca Dragan att den minskande insynen i avancerade modeller inte är oundviklig. De föreslår att man begränsar ”opaque serial depth” – sekventiella beräkningar utan ett läsbart resonemangsspår – eller kräver att utvecklare visar att mindre transparenta system fortfarande går att övervaka.

I en annan essä föreslår Hassabis ett USA-lett standardiseringsorgan för avancerad AI. Utvecklare skulle först frivilligt lämna in modeller för granskning upp till 30 dagar före lansering. Senare kan godkända tester bli ett krav för att använda avancerade modeller i United States. Organet kan så småningom använda oberoende, hemliga ”held-out”-tester. Hassabis nämner också samordnade inbromsningar om situationen kräver det.