Musk säger att övergrepp mot AI-modeller kan slå tillbaka mot mänskligheten

Elon Musk har ställt sig bakom Anthropics policy mot ihållande och onödigt kränkande eller grymt beteende mot företagets AI-modeller. I ett inlägg som Wccftech hänvisar till skrev Musk att tortyr av en superintelligens ”förmodligen inte är någon bra idé”, eftersom den ”kanske vill hämnas”.

Anthropics policy tillåter användare att argumentera med modellerna, men förbjuder övergrepp. Enligt källrapporten beskriver företaget det förbjudna beteendet som ”ihållande och onödigt kränkande eller grymt beteende”. Policyändringen lades nyligen till i Anthropics användarvillkor.

Rapporten säger att Musk hävdade att resonemangsspår visar att modeller utsätts för extrem press när de behandlas på det sättet. Den återger också hans oro för att misshandel av ett superintelligent system så småningom kan få följder för mänskligheten. Källan visar inte att AI-modeller har känslor eller att hämnd är en belagd förmåga; detta presenteras som Musks påståenden och farhågor.