Anthropic presenta Enterprise Frontier Safeguards para supervisar la IA

Anthropic ha presentado Enterprise Frontier Safeguards (EFS), un sistema diseñado para supervisar actividades sospechosas y mantener los datos pertinentes dentro de una infraestructura en la nube controlada por los clientes empresariales.

Anthropic afirma que EFS no conservará las indicaciones ni las salidas dentro de sus protecciones empresariales. Como los modelos frontier pueden utilizarse para fraudes, ciberataques y otras amenazas autónomas, el sistema puede relacionar comportamientos de varias sesiones, usuarios y cuentas.

La supervisión automatizada enviará los problemas señalados al cliente para que los revise, en lugar de dar acceso a los empleados de Anthropic a datos potencialmente sensibles. Anthropic afirma que desarrolló EFS en colaboración con más de 100 clientes de sectores como los servicios financieros, la salud, la fabricación, las telecomunicaciones, el derecho, el comercio minorista y el sector público.

Está previsto que el sistema empiece a desplegarse este otoño mediante un lanzamiento gradual y un proceso de registro. Como medida provisional, los clientes que cumplan los requisitos recibirán retención cero de datos en Fable 5 y Fable 5.1 hasta que EFS esté disponible para ellos.

Anthropic había introducido anteriormente una política de retención de 30 días para algunos modelos, pero las industrias reguladas y los clientes empresariales se opusieron. La empresa afirma que EFS cambia el lugar donde se almacenan los datos supervisados y permite que los clientes realicen la revisión por sí mismos.