OpenAI lleva varias semanas trabajando con Anthropic y Google DeepMind en la seguridad de la inteligencia artificial, según Chris Lehane, responsable global de políticas de OpenAI.
Lehane dijo el martes a los periodistas que las empresas han tratado cuestiones de seguridad mientras el sector afronta advertencias sobre riesgos catastróficos relacionados con la IA avanzada. Sus declaraciones confirman informaciones anteriores y llegan después de un ensayo publicado el sábado por Dario Amodei, director ejecutivo de Anthropic, en el que pidió a las empresas de IA que colaboren para ralentizar, cuando sea necesario, el desarrollo de sistemas avanzados.
El director ejecutivo de OpenAI, Sam Altman, Demis Hassabis, de Google, y Elon Musk, de SpaceXAI, han respaldado el llamamiento de Amodei. Altman también ha dicho que OpenAI se uniría a Anthropic para utilizar evaluadores externos que supervisen la seguridad. Sin embargo, Altman y otras personas han señalado que la coordinación entre empresas competidoras podría generar problemas antimonopolio si se considerara que limita la competencia.
Amodei propuso una exención gubernamental limitada para la coordinación en materia de seguridad, pero Lehane dijo, según los informes, que las empresas no la necesitan. The Information también ha informado de que las tres compañías trabajan en un organismo de estándares para el sector. Hassabis pidió un organismo similar en julio.
El presidente Trump ha descartado las preocupaciones sobre la seguridad de la IA y se ha opuesto a una regulación más estricta. Sostiene que ralentizar el desarrollo daría ventaja a China. En la misma reunión, Lehane dijo que OpenAI respalda la disposición de la FRONTIER Act que obligaría a los principales laboratorios de IA avanzada a permitir la entrada de organizaciones independientes de verificación para evaluar si los modelos se desarrollan de forma segura.
Comentarios
0Aún no hay comentarios. Escribe el primero.