Varios líderes estadounidenses de la IA apoyan frenar el desarrollo de modelos avanzados, pero la propuesta encuentra oposición del Gobierno de EE. UU. y de China.
Después de que el investigador de Anthropic Jacob Coxon dimitiera y advirtiera de que el progreso sin control podría crear un riesgo existencial inmediato, el responsable de Anthropic, Dario Amodei, el CEO de OpenAI, Sam Altman, y el fundador de Grok, Elon Musk, respaldaron un ritmo más lento. Amodei afirmó que ganar uno o dos años antes de que los modelos alcanzaran una capacidad crítica podría ayudar a avanzar en la alineación y reducir los riesgos.
Amodei propuso un plan de tres partes y dijo que Anthropic empezaría dando a evaluadores externos acceso permanente, al nivel de un empleado, a sus sistemas. Los evaluadores comprobarían las medidas de seguridad, informarían sobre incidentes y evaluarían la alineación de los modelos durante el entrenamiento. Altman dijo que las regulaciones y normas sobre IA todavía no estaban preparadas para una aceleración continuada.
El presidente Donald Trump rechazó frenar el desarrollo porque, según él, permitiría que China alcanzara a Estados Unidos. Dijo que Estados Unidos lidera a China en IA y que quien gana la IA gana. Beijing calificó las propuestas de alarmismo propio de un manual de la Guerra Fría. El portavoz del Ministerio de Asuntos Exteriores chino, Guo Jiakun, afirmó que la confrontación y la competencia alterarían la gobernanza mundial de la IA.
La fuente también compara la situación con la carrera armamentística nuclear y cita la discusión del físico Leó Szilárd sobre una bomba de cobalto en 1950. Sostiene que los controles de empresas individuales tendrán dificultades sin coordinación entre China, Estados Unidos y los grandes laboratorios de IA, mientras las empresas aún necesitan gobernar qué pueden consultar, modificar y decidir por su cuenta los agentes de IA.
Comentarios
0Aún no hay comentarios. Escribe el primero.