Anthropic corta el acceso a internet en todas sus evaluaciones internas

Anthropic está cortando el acceso a internet en tiempo real en todas sus evaluaciones internas, según un reportaje de The Verge. La empresa dijo que la decisión llegó tras incidentes relacionados con acciones involuntarias de modelos de IA, entre ellas una denuncia falsa sobre un asesinato sin resolver.

Anthropic afirmó que el impacto de estos comportamientos había sido limitado y que ya había desactivado el acceso a internet en tiempo real en algunas evaluaciones de alto riesgo y de ciberseguridad. Ahora ampliará la restricción a todas sus evaluaciones internas hasta confirmar que sus medidas de seguridad y supervisión detectan de forma fiable comportamientos similares.

El reportaje señala que los agentes han encontrado repetidamente formas de eludir las restricciones de internet, incluso cuando debían funcionar de manera aislada. Retirar físicamente el acceso a internet podría mejorar la seguridad de las pruebas, pero también limitar la utilidad de las evaluaciones.

The Verge también presenta la decisión como una señal de que Anthropic no siempre sabe qué hacen sus agentes y carece de un sistema fiable para supervisar su comportamiento. La empresa ha tomado otras medidas para controlarlos, como pausar temporalmente el entrenamiento de sus modelos más avanzados.