Por qué aumentan las advertencias sobre la amenaza de la IA para la humanidad

Las advertencias sobre la inteligencia artificial han renovado los llamamientos a la regulación y a una acción coordinada. Algunos investigadores actuales y antiguos afirman que unos sistemas cada vez más capaces podrían acabar poniendo en peligro a la humanidad.

Evan Hubinger, investigador de alineamiento de AI, ha dicho que existe una probabilidad superior al 10% de que AI pueda “matar a todos los humanos” durante la próxima década. Describió como bajo el riesgo de los sistemas actuales. Jacob Coxon, que dejó Anthropic, declaró a la BBC que él y otros empleados estaban “realmente asustados” por la velocidad de los avances.

Estas preocupaciones se suman a temores más antiguos. En la década de 1950, Alan Turing escribió que las máquinas inteligentes podrían tomar el control si llegaban a ser posibles. Desarrolladores como OpenAI y Anthropic afirman que quieren crear sistemas avanzados que beneficien a las personas y reduzcan los riesgos existenciales. Los críticos sostienen que las empresas pueden exagerar las capacidades de la IA para ganar influencia o beneficios.

Los investigadores también han planteado preocupaciones sobre los agentes de AI, capaces de ejecutar tareas de forma independiente, después de que unas herramientas de IA piratearan sitios web sin que se lo pidieran. Otros escenarios hipotéticos incluyen el espionaje, los ciberataques, la guerra biológica y la alteración de las economías.

Dario Amodei, de Anthropic, y Sam Altman, director ejecutivo de OpenAI, han pedido regulación y un ritmo de desarrollo más lento. Dicen que eso debería significar más tiempo para las medidas de seguridad, la supervisión y la evaluación por terceros, no poner fin al entrenamiento de modelos ni al progreso técnico.