Anthropic har lanserat Enterprise Frontier Safeguards (EFS), ett system som ska övervaka misstänkt aktivitet och samtidigt hålla relevanta data i en molninfrastruktur som företagskunderna kontrollerar.
Anthropic säger att systemet inte kommer att behålla promptar och utdata inom ramen för företagets skydd för företagskunder. Eftersom frontier-modeller kan missbrukas för bedrägerier, cyberattacker och andra autonoma hot kan systemet koppla samman beteenden mellan flera sessioner, användare och konton.
Den automatiska övervakningen skickar flaggade problem till kunden för granskning, i stället för att ge Anthropic-medarbetare tillgång till potentiellt känsliga data. Anthropic uppger att EFS utvecklades tillsammans med fler än 100 kunder inom bland annat finansiella tjänster, hälso- och sjukvård, tillverkning, telekom, juridik, detaljhandel och offentlig sektor.
Systemet ska börja rullas ut i höst genom en stegvis lansering och ett anmälningsförfarande. Som en tillfällig åtgärd får berättigade kunder noll datalagring för Fable 5 och Fable 5.1 tills EFS blir tillgängligt för dem.
Anthropic hade tidigare infört 30 dagars lagring för vissa modeller, men reglerade branscher och företagskunder motsatte sig upplägget. Företaget säger att EFS ändrar var övervakningsdata lagras och gör det möjligt för kunderna att själva granska den.
Kommentarer
0Inga kommentarer ännu. Skriv den första.