Anthropic uppger att medarbetare från Accenture ska börja arbeta inne på AI-företaget för att granska dess modeller och personal. Arrangemanget är det första offentliggjorda exemplet på Anthropics plan att placera externa utvärderare inne i AI-labb.
Faculty, den AI-division som Accenture köpte i januari, ska enligt Anthropic utvärdera och red-teama modeller, genomföra anpassningsbedömningar och testa modellernas skydd. Företagen räknar med att investera minst 1 miljard dollar i projektet under de kommande fem åren.
Accenture-aktien steg 8 procent i efterhandeln efter beskedet. Anthropic pekade på konsultbolagets praktiska erfarenhet av att införa AI hos stora företag och myndigheter som en viktig fördel. Att bolaget är ett stort börsnoterat företag som är funktionellt oberoende av Anthropic och det bredare ekosystemet kring AI-labbet var en annan faktor.
Anthropic säger att fler utvärderare ska presenteras under de kommande veckorna och att företaget diskuterar pilotprojekt med METR och andra ideella organisationer. Företaget uppger också att det ännu inte finns några standarder för utvärderarnas åtkomst eller kommunikation, och att arbetssättet kommer att utvecklas.
Vissa kritiker menar att inbäddad utvärdering kan hjälpa AI-branschen att undvika ansvarsutkrävande. Anthropic säger att utvärderarna inte minskar företagets ansvar, utan gör det mer verifierbart, och att säkerheten hos modellerna fortfarande är företagets ansvar.
Kommentarer
0Inga kommentarer ännu. Skriv den första.