Storbritanniens regering har avvisat förslag om en laglig ”avstängningsknapp” som skulle kunna stänga av en AI-modell i en nödsituation med okontrollerat beteende.
Cabinet Office, som leder arbetet med AI-säkerhet, sade att Storbritannien ”inte bara kan stänga av AI”. En talesperson sade till BBC News att blockering av åtkomst till modeller i Storbritannien inte skulle hindra att de utvecklas eller missbrukas på andra håll.
Förslaget togs upp i House of Lords den 1 september av Lord Clement-Jones och fördes senare fram i underhuset av Labour-ledamoten Alex Sobel. Det stöds av ledamöter från flera partier. Regeringens motstånd hindrar inte att lagförslaget går vidare i Parliament, men gör det osannolikt att det blir lag.
Den tidigare OpenAI-forskaren Daniel Kokotajilo sade att ett enskilt land inte kan skapa en fungerande juridisk eller teknisk avstängningsknapp utan en internationell överenskommelse. Han uppmanade politiker att i stället fokusera på diplomati med USA och reglering som kan bromsa AI-utvecklingen.
Kokotajilo var medförfattare till forskningsrapporten AI2027, som förutspådde att AI kan utplåna mänskligheten i mitten av 2030-talet. En senior Anthropic-forskare har sagt att sannolikheten är större än 10 % att AI kommer att ”döda alla människor” under det kommande årtiondet.
Cabinet Office sade att företag har ett tydligt ansvar att utveckla produkter säkert och investera i den säkerhetsinfrastruktur som krävs.
Kommentarer
0Inga kommentarer ännu. Skriv den första.