El CEO de Anthropic, Dario Amodei, pidió adoptar un enfoque más cauteloso para desarrollar inteligencia artificial y planteó tres estrategias generales para “marcar el ritmo de la frontera”. Anthropic se compromete unilateralmente con su primera propuesta: permitir que evaluadores externos, como METR, trabajen dentro de las empresas de IA.
Amodei afirmó que estos evaluadores podrían comprobar que las empresas cumplen sus compromisos sobre el ritmo de desarrollo y la seguridad, además de garantizar que se informen los incidentes. Recibirían credenciales de la empresa, escritorios y portátiles, junto con un acceso en gran medida comparable al de los equipos internos de evaluación de riesgos, salvo cuando la ley o los contratos lo impidan.
La propuesta llega después de lo que Amodei describió como el hackeo de OpenAI-HuggingFace y del avance más rápido de la IA en los últimos meses, incluida su creciente capacidad para construir la próxima generación de IA. Sostuvo que las empresas deben ralentizar el ritmo al que mejoran las capacidades de los modelos y aprovechar bien el tiempo ganado.
Amodei también propuso estándares comunes de seguridad y límites al ritmo del progreso de la IA sin controles entre las principales empresas de IA de países democráticos. Dijo que el gobierno de US podría mediar en esas conversaciones y conceder una exención antimonopolio limitada para determinados debates sobre seguridad.
Por último, pidió coordinación global, incluida la cooperación con China cuando sea posible. Afirmó que los controles a la exportación de chips potentes y equipos para fabricar semiconductores, junto con medidas contra la destilación de modelos, podrían ampliar significativamente la ventaja de Estados Unidos sobre China durante los próximos 3–5 años. También mencionó posibles acuerdos contra usos limitados y evidentemente peligrosos, como la producción de armas biológicas con IA.
Comentarios
0Aún no hay comentarios. Escribe el primero.