Anthropic dice que podría acercarse a su definición de automejora recursiva

Anthropic afirma que pronto podría cumplir su definición interna de progreso acelerado por la inteligencia artificial, aunque subraya que ninguno de sus modelos actuales ha superado ese umbral.

En una presentación S-1 revisada, la empresa dijo que un mayor uso de la IA en investigación y desarrollo podría hacer que las capacidades de sus modelos avanzaran más rápido que su capacidad para desarrollar y aplicar medidas de seguridad, alineación y protección. También indicó que en el pasado no detectó aceleraciones importantes del desarrollo hasta después de que ocurrieran.

Las estimaciones internas de Anthropic, basadas en expectativas sobre modelos futuros y no sobre los actuales, indican que podría cumplir «pronto» la definición de Responsible Scaling Policy de «progreso drásticamente acelerado atribuible a la IA». La empresa dijo que no ha determinado que ningún modelo actual supere el umbral y que sigue evaluando los datos subyacentes.

La presentación describe el uso de IA para desarrollar IA más capaz como un riesgo considerable para la seguridad si acelera mucho el progreso. Anthropic dijo que no espera poder usar Claude de forma segura para diseñar y construir de manera autónoma generaciones sucesivas de modelos avanzados sin una supervisión o comprensión humanas significativas. La empresa estudia actualizar su política para mantener el control humano sobre el desarrollo de modelos avanzados.

La presentación también cumple una función de marketing, por lo que sus afirmaciones deben entenderse en contexto. Las declaraciones de Anthropic describen una posibilidad que prevé, no una capacidad que afirme que sus modelos actuales ya hayan alcanzado.