Los líderes de la IA debaten si el sector puede ralentizarse

El pódcast Equity de TechCrunch analizó si las empresas de IA hablan en serio cuando plantean ralentizar el desarrollo de sistemas de IA de frontera.

El debate se produjo después de que Dario Amodei, director ejecutivo de Anthropic, publicara un plan para “marcar el ritmo de la frontera”. El plan recibió el respaldo de varias figuras del sector, entre ellas Sam Altman, director ejecutivo de OpenAI, y, en cierta medida, Elon Musk. Sin embargo, el copresentador Sean O’Kane dijo que la propuesta carecía de detalles importantes, incluido qué significaría una ralentización en la práctica y cómo se evaluarían sus afirmaciones sobre los riesgos de la IA.

Los presentadores también analizaron la propuesta de incorporar evaluadores independientes externos en empresas como Anthropic y OpenAI para supervisar las prácticas de seguridad y los incidentes. Otras ideas incluían que las grandes empresas de IA de países democráticos coordinaran normas y límites de seguridad, además de una coordinación internacional.

La copresentadora Kirsten Korosec dijo que el consenso aparente podía ser alentador, pero también podía convertirse en el comienzo de un cártel entre los laboratorios de IA de frontera. El episodio abordó además las críticas del director ejecutivo de Nvidia, Jensen Huang, quien se ha hecho eco de la afirmación del presidente Donald Trump de que la reacción contra la IA es un engaño y que la regulación es innecesaria. Los presentadores señalaron problemas de aplicación normativa y de elección limitada para los consumidores.