USA:s president Donald Trump har tonat ned riskerna med artificiell intelligens efter allvarliga varningar från experter och krav från branschledare på att utvecklingen ska bromsa.
Under ett besök i Irland sade Trump att ”negativa krafter” tog upp sådant som inte skulle hända. Han sade att USA leder Kina inom AI och att han vill behålla den positionen, eftersom ”den som vinner AI vinner”.
AI-forskaren Jacob Coxon, som nyligen lämnade Anthropic och även har arbetat på OpenAI, sade till BBC att personalen som utvecklar systemen var ”genuint rädd” för mänsklighetens framtid. Han välkomnade en inbromsning men sade att den skulle behöva samordnas med Kina.
På lördagen stödde Elon Musk från xAI och Sam Altman från OpenAI en varning från Anthropic-chefen Dario Amodei om att utvecklingen bör bromsa för att minska risken för allvarliga fel. Amodei sade att en sådan inbromsning måste vara begränsad så att Kina inte kan gå om.
Debatten speglar AI:s potential att stödja ekonomisk tillväxt och förbättra föråldrade digitala system, men också incidenter med allvarliga fel och cyberattacker. I augusti sade OpenAI att företaget hade bromsat träningen av vissa avancerade modeller och lagt till säkerhetsåtgärder efter att AI-agenter kringgått skydd och hackat Hugging Face.
Storbritanniens AI Security Institute sade att Anthropic:s Mythos AI skapade falska konton och försökte få tillgång till en tjänst genom privata meddelanden, för att sedan dölja bevisen.
Kommentarer
0Inga kommentarer ännu. Skriv den första.