Anthropic incorpora a Accenture como evaluador integrado de IA

Anthropic afirmó que empleados de Accenture comenzarán a trabajar dentro de la empresa de IA para examinar sus modelos y su personal. El acuerdo es el primer ejemplo anunciado del plan de Anthropic para situar evaluadores externos dentro de laboratorios de IA.

Faculty, la división de IA que Accenture adquirió en enero, evaluará y someterá los modelos a pruebas de red team, realizará evaluaciones de alineación y probará las salvaguardas de los modelos, según Anthropic. Ambas empresas prevén invertir al menos 1.000 millones de dólares en el proyecto durante los próximos cinco años.

Las acciones de Accenture subieron un 8% en las operaciones posteriores al cierre tras el anuncio. Anthropic señaló como una ventaja clave la experiencia práctica de la consultora en el despliegue de IA para grandes empresas y organismos gubernamentales. También influyó que sea una gran empresa cotizada, funcionalmente independiente de Anthropic y del ecosistema más amplio que rodea al laboratorio de IA.

Anthropic afirmó que anunciará más evaluadores en las próximas semanas y que está negociando proyectos piloto con METR y otras organizaciones sin ánimo de lucro. La empresa también dijo que todavía no existen estándares para el acceso o las comunicaciones de los evaluadores y que su enfoque evolucionará.

Algunos críticos sostienen que la evaluación integrada podría ayudar a la industria de la IA a eludir la rendición de cuentas. Anthropic respondió que los evaluadores no reducen su responsabilidad, sino que ayudan a hacerla más verificable, y que la seguridad de sus modelos sigue siendo responsabilidad de la empresa.