Kung Charles varnar för existentiell fara om AI hamnar i fel händer

Kung Charles har varnat AI-chefer för de ”existentiella farorna” med att tekniken hamnar i fel händer.

Han gjorde uttalandet vid ett toppmöte som han hade sammankallat på Dumfries House i Skottland för att diskutera hur AI kan användas för att gynna samhället. Bland deltagarna fanns Storbritanniens AI-minister Kanishka Narayan, påvens rådgivare samt representanter för Nvidia, OpenAI och Anthropic.

”De som har skapat den här tekniken varnar nu allt oftare för att AI riskerar att utveckla mörkare förmågor – kanske till och med att ta liv”, sade kungen till gruppen. Han sade att det fanns en ”brådska” i att på ett tillräckligt sätt överväga farorna med att tekniken hamnar i fel händer och används på potentiellt katastrofala sätt.

Charles sade att uppgiften inte bara är att utveckla tekniken, utan också att se till att den förblir i mänsklighetens, samhällets och den naturliga världens tjänst. Toppmötet undersöker om en ”gemensam uppsättning principer” kan vägleda den framtida användningen av AI.

Diskussionen kommer efter varningar från personer i branschen om avancerade, eller ”frontier”, AI-modellers förmågor och den reglering som krävs för att hålla dem under kontroll. Kritiker menar att fokus på hypotetiska framtida risker kan ta uppmärksamhet från mer omedelbara problem, bland annat AI:s miljöpåverkan. Andra säger att AI-företag inte kan förväntas reglera sig själva.