Nvidias vd Jensen Huang efterlyser kontroller när OpenClaw för robotiken framåt

Nvidias vd Jensen Huang sade att OpenClaw och AI-agenter kan bidra till att utveckla robotiken. Samtidigt efterlyste han skyddsåtgärder för att hålla autonoma system under kontroll.

På evenemanget ”Build a claw” i London beskrev Huang OpenClaw som ”en av de viktigaste modellerna” och ett ”första trovärdigt” agentramverk. Han jämförde systemet med en stor språkmodell inuti ett exoskelett, där motorer, hjul och armar fungerar som verktyg för en agent.

Huang sade att autonoma system bör ha minsta möjliga behörighet, övervakas kontinuerligt och isoleras från datorns underliggande hårdvara. Han beskrev OpenShell som ett isoleringslager som fungerar ungefär som ett operativsystem inuti ett annat operativsystem. Han jämförde behovet av isolering med internets tidiga dagar, då webbläsare inte var åtskilda från datorerna de kördes på.

Om ett autonomt system får i uppgift att laga en omelett räcker det, enligt Huang, med tillgång till en stekpanna; det behöver inte tillgång till en motorsåg. Han sade att systemen bör övervakas så att aktivitet som bryter mot deras policyer upptäcks och rapporteras, så att människor kan avgöra om systemet ska stängas av.

Huang sade att säkerhets- och eskaleringssystem behövs för att autonoma maskiner och agenter ska kunna tas i bruk på ett säkert sätt och för att deras potential ska kunna förverkligas. Hans uttalanden handlade om kontroller av tekniken, inte om en specifik robotprodukt eller version.