El científico jefe de OpenAI pide ralentizar el desarrollo de la IA

Jakub Pachocki, científico jefe de OpenAI, ha pedido un ritmo más lento para el desarrollo de la inteligencia artificial en todo el sector. Según él, los investigadores deben comprender mejor la inteligencia de las máquinas y sus riesgos.

En una publicación del sitio web de OpenAI, Pachocki afirmó que los sistemas de IA presentan nuevos peligros claros para la seguridad informática. También advirtió de que nadie está preparado para las consecuencias de un aumento continuo y rápido de la inteligencia de las máquinas. Sus declaraciones llegaron pocos días después del lanzamiento de GPT-6 Astra y mientras OpenAI trabaja en un asistente de investigación automatizado y en la automejora recursiva.

Pachocki describió la IA basada en aprendizaje profundo como una ciencia experimental en gran medida. Señaló que la inteligencia de las máquinas empieza a superar las capacidades humanas de formas transformadoras. Relacionó el avance de la IA con el aumento de la potencia de cálculo y observó que los nuevos algoritmos han mejorado los sistemas, mientras continúa la búsqueda de más potencia.

Sus propuestas son reforzar la alineación y la supervisión, mantener a las personas dentro del proceso y coordinar una ralentización cuando sea necesario para generar confianza en esas medidas. En última instancia, respalda combinar estos enfoques. La propuesta deja abierta la cuestión de si el sector aceptará un ritmo menor mientras evalúa el potencial y los riesgos de la IA.