El CEO de Microsoft, Satya Nadella, pidió controles más sólidos para los sistemas de IA. Según dijo, deberían diseñarse con un «freno de emergencia» que permita a una persona autorizada pausar o apagar un modelo durante una tarea.
En una publicación en X el sábado por la mañana, Nadella afirmó que era hora de «dar un paso atrás y evaluar la arquitectura de confianza» de la IA. Sostuvo que no se debería tratar la «Super Intelligence» como cajas negras anidadas cuyas recomendaciones, respuestas y acciones simplemente se aceptan o se rechazan.
Nadella propuso separar el modelo del «harness» que coordina su trabajo y situar los controles y las salvaguardas fuera de él. También pidió documentar cada acción significativa del modelo con pruebas legibles para las personas y resistentes a la manipulación. «Debemos asumir que un modelo está comprometido y contenerlo desde el principio», escribió.
Sus comentarios llegan mientras las principales empresas de IA reconocen más incidentes en los que parecieron perder el control de sus modelos. También se producen después de que el CEO de Anthropic, Dario Amodei, publicara un plan para desarrollar la IA con más cautela.
Comentarios
0Aún no hay comentarios. Escribe el primero.