El CEO de Nvidia, Jensen Huang, afirmó que OpenClaw y los agentes de IA podrían contribuir al avance de la robótica, y pidió medidas de protección para mantener bajo control los sistemas autónomos.
En el evento “Build a claw”, celebrado en Londres, Huang describió OpenClaw como “uno de los modelos más importantes” y como el “primer armazón de agentes creíble”. Comparó el sistema con un modelo de lenguaje grande dentro de un exoesqueleto, cuyos motores, ruedas y brazos sirven de herramientas para un agente.
Huang dijo que los sistemas autónomos deberían funcionar con privilegios mínimos, someterse a una supervisión continua y permanecer aislados del hardware subyacente del ordenador. Describió OpenShell como una capa de aislamiento que actúa como un sistema operativo dentro de otro. Comparó la necesidad de aislamiento con los primeros tiempos de Internet, cuando los navegadores no estaban separados de los ordenadores en los que se ejecutaban.
Para un sistema autónomo al que se le pide preparar una tortilla, explicó Huang, basta con darle acceso a una sartén; no necesita una motosierra. Dijo que hay que supervisar los sistemas para detectar actividades que infrinjan sus políticas y comunicar esos casos a las personas, que podrán decidir si apagan el sistema.
Huang afirmó que hacen falta sistemas de seguridad y escalamiento para desplegar máquinas y agentes autónomos de forma segura y hacer realidad su potencial. Sus comentarios se centraron en los controles de la tecnología, no en un producto o lanzamiento robótico concreto.
Comentarios
0Aún no hay comentarios. Escribe el primero.