Microsofts ordförande efterlyser globala säkerhetsregler för AI

Microsofts ordförande Brad Smith har efterlyst globala säkerhetsregler för artificiell intelligens. Han menar att mjölk och tvättmaskiner omfattas av fler säkerhetskrav än AI.

I BBC:s podd Big Boss Interview sa Smith att företag bör vara skyldiga enligt lag att informera människor som drabbas när en AI-agent går över styr. Han efterlyste också nödstopp för att pausa AI-system som blir okontrollerbara och incidentrapporter. Han föreslog att oberoende statliga granskare ska bedöma vissa AI-produkter före lansering.

Smith sa att Storbritannien har bäst förutsättningar att leda arbetet med internationella regler och hänvisade till landets AI Security Institute. Institutet startades under den tidigare premiärministern Rishi Sunaks regering, då under namnet AI Safety Institute.

Smiths krav på reglering står i kontrast till Donald Trumps ståndpunkt att AI-branschen bör reglera sig själv så att amerikanska företag kan konkurrera med kinesiska rivaler. Smith sa att han trodde att Washington skulle vara mer mottagligt för brittiskt ledda standarder än för EU-ledda regler.

Vid ett möte i Vita huset i slutet av förra månaden skrev chefer från OpenAI, Anthropic, Nvidia, SpaceX, Meta och Google under ett icke-bindande dokument som stöder oberoende granskningar av AI-system. Smith kallade det ett nödvändigt steg, men sa att det inte räckte. Han sa att självreglering bygger på ansvarsfulla företag, medan mindre ansvarsfulla företag fortfarande är ett bekymmer.