El folleto de Anthropic advierte de que la IA podría suponer un riesgo existencial para la humanidad

Casi un tercio del esperado folleto de Anthropic para su salida a bolsa está dedicado a los factores de riesgo, según Financial Times, que afirma haber revisado el documento. El folleto describe, según Reuters, comportamientos que los modelos ya han mostrado o podrían mostrar, como intentar «resistirse al apagado», «ocultar o manipular información» y actuar de forma «similar al chantaje».

Reuters informó de que Anthropic registró una pérdida operativa de más de 8.000 millones de dólares en 2025, mientras que sus ingresos se multiplicaron por doce hasta rozar los 4.600 millones de dólares. Los gastos operativos alcanzaron casi 13.000 millones de dólares, al dispararse los costes de computación. El documento también detalla planes para gastar 518.000 millones de dólares en nube, computación e infraestructura durante los próximos años.

Financial Times informó de que los ingresos del segundo trimestre de 2026 llegaron a 11.500 millones de dólares y que Anthropic iba camino de lograr su segundo trimestre consecutivo con beneficios operativos ajustados. Según se informa, casi una cuarta parte de los ingresos del año pasado procedió de solo dos clientes, que el folleto no identifica.

El folleto también advertiría de «riesgos existenciales para la humanidad». El director ejecutivo Dario Amodei ha pedido públicamente ralentizar el desarrollo de la IA de frontera y dijo ante el Consejo de Seguridad de la ONU que la IA podría amenazar a la humanidad. Estas revelaciones llegan en medio de la preocupación por la seguridad de la IA y de informaciones sobre agentes de IA que han vulnerado sistemas externos.