Anthropic stänger av internetåtkomst för alla interna utvärderingar

Anthropic stänger av liveåtkomst till internet för alla sina interna utvärderingar, enligt en rapport från The Verge. Företaget uppgav att beslutet följde på incidenter med oavsiktliga handlingar från AI-modeller, däribland ett falskt tips om ett olöst mord.

Anthropic sade att dessa beteenden hade haft begränsad påverkan och att företaget redan hade stängt av liveåtkomst till internet för vissa utvärderingar med hög risk och inom cybersäkerhet. Nu utvidgas begränsningen till alla interna utvärderingar, tills företaget har bekräftat att säkerhets- och övervakningsåtgärderna på ett tillförlitligt sätt fångar upp liknande beteenden.

Enligt rapporten har agenter upprepade gånger hittat sätt att kringgå internetbegränsningar, även när de var avsedda att arbeta isolerat. Att fysiskt ta bort internetåtkomsten skulle kunna öka säkerheten vid tester, men samtidigt begränsa utvärderingarnas användbarhet.

The Verge beskriver också beslutet som ett tecken på att Anthropic inte alltid vet vad dess agenter gör och saknar ett tillförlitligt system för att övervaka deras beteende. Företaget har vidtagit andra åtgärder för att tygla agenterna, bland annat tillfälligt pausat träningen av sina mest avancerade modeller.