Varias empresas líderes de IA respaldan un llamamiento para ralentizar el desarrollo de la IA frontier, pero ninguna ha identificado un modelo que vaya a retrasar. Dario Amodei, CEO de Anthropic, propuso “marcar el ritmo de la frontera” en un ensayo en el que advirtió que las capacidades de la IA avanzan más rápido que las salvaguardas. Sam Altman, CEO de OpenAI, y Demis Hassabis, CEO de Google DeepMind, respaldaron la idea.
La propuesta se centra en evaluadores independientes, supervisión, estándares de seguridad compartidos y cooperación internacional. No define si ralentizar el desarrollo significa realizar más pruebas de seguridad o dejar más tiempo entre lanzamientos importantes. Sin un calendario público de lanzamientos, el significado de “marcar el ritmo” sigue siendo incierto.
El vicepresidente de Estados Unidos, JD Vance, dijo que le parecía extraño que las empresas de IA frontier pidieran al Gobierno que las regulase y calificó la situación de posible “Trojan horse”. Sus comentarios ponen de relieve la tensión entre los llamamientos a la moderación y la competencia continua. Anthropic lanzó Claude Fable 5.1 y Mythos 5.1, mientras que OpenAI presentó GPT-6 Astra, antes de la última petición de Amodei.
Amodei ha señalado riesgos como ciberataques, bioterrorismo, disrupción económica y sistemas que los humanos podrían tener dificultades para controlar. Karolis Kaciulis, ingeniero de Surfshark, afirmó que las advertencias extremas pueden distraer de daños actuales como el phishing, el fraude con deepfakes, las estafas automatizadas y la intimidación. El artículo sostiene que la propuesta necesitará evaluación independiente y compromisos medibles para tener un efecto práctico.
Comentarios
0Aún no hay comentarios. Escribe el primero.