Anthropic har gett sex forskare från den ideella organisationen METR tillgång på medarbetarnivå för att granska företagets AI-modeller, säkerhetsarbete och riskhantering, uppgav företaget i ett blogginlägg på torsdagen.
Forskarna har fått bärbara datorer från Anthropic och tillgång till kontorslokaler. De kan också använda interna verktyg som i stort sett motsvarar dem som företagets riskbedömningsteam använder. Anthropic uppgav att medarbetarna uppmuntras att dela information med METR på samma sätt som med en kollega som arbetar med risker kopplade till AI-anpassning.
METR ska publicera egna bedömningar av Anthropics risker, incidenter och arbetssätt. Anthropic kan inte stoppa publiceringen, men kan begära att uppgifter tas bort inom snävt avgränsade, fördefinierade kategorier. Det gäller bland annat kunddata, material som omfattas av advokatsekretess och information om modellarkitekturer. METR får offentligt beskriva sina redigeringar och säga om organisationen anser att de var motiverade, så länge den inte röjer uppgifterna.
Anthropic jämförde upplägget med att tillsynsmyndigheter placerar fast stationerade granskare på stora banker. METR är hittills den enda utvärderaren i den högsta nivån av ett system med tre nivåer som företaget utvecklar. Utvärderare på mellannivån får publicera utan godkännande, medan utvärderare på den lägsta nivån, däribland biosecurityorganisationen SecureBio, behöver godkännande för att publicera.
Beskedet följer på en essä från september där Anthropics vd Dario Amodei föreslog att externa utvärderare skulle placeras på AI-laboratorier. OpenAI lovade också att göra det. Anthropic, OpenAI, Google, Meta, Nvidia och xAI har sedan dess undertecknat en överenskommelse med Vita huset om oberoende granskning.
Kommentarer
0Inga kommentarer ännu. Skriv den första.