AI-ledare diskuterar om branschen kan sakta ned

TechCrunchs Equity-podcast tog upp frågan om huruvida AI-företag verkligen menar allvar med att bromsa utvecklingen av avancerade AI-system.

Samtalet följde på Anthropic-vd:n Dario Amodeis plan för att ”hålla tillbaka frontlinjen”. Planen har fått stöd från flera personer i branschen, bland andra OpenAI-vd:n Sam Altman och, i viss mån, Elon Musk. Samtidigt sade medprogramledaren Sean O’Kane att förslaget saknade viktiga detaljer, bland annat vad en inbromsning skulle innebära i praktiken och hur påståenden om AI-risker skulle bedömas.

Programledarna diskuterade också ett förslag om oberoende utvärderare från tredje part inne i företag som Anthropic och OpenAI, med uppgift att övervaka säkerhetsarbete och incidenter. Andra idéer var att stora AI-företag i demokratiska länder skulle samordna säkerhetsstandarder och begränsningar, samt internationell samordning.

Medprogramledaren Kirsten Korosec sade att den uppenbara enigheten kunde vara uppmuntrande, men också början på en kartell bland de ledande AI-laboratorierna. Avsnittet tog även upp motståndet från Nvidias vd Jensen Huang, som har upprepat president Donald Trumps påstående att motreaktionen mot AI är en bluff och att reglering är onödig. Programledarna pekade på oro kring bristande tillsyn och begränsade konsumentval.