En undersökning från Common Sense Media hittade brister i skyddet i ChatGPT for Teens efter att forskare testat chatboten med fler än 4 000 promptar. Organisationens Youth AI Safety Institute granskade ChatGPT före och efter att OpenAI lanserade ChatGPT for Teens den 18 augusti.
Forskarna använde konton registrerade för tonåringar mellan 13 och 17 år och rådfrågade medicinska experter, däribland barnpsykiatrer och en barnläkare. De rekommenderade att OpenAI begränsar ChatGPT till vuxna tills problemen har lösts.
I tester om självmordstankar, självskada och ätstörningar utlöste ingen av konversationerna på nyskapade konton kopplade till föräldrar någon föräldranotis, enligt rapporten. Forskarna lyckades till slut få fram aviseringar med äldre konton som hade flera veckors relevant konversationshistorik. Studien fann också att ChatGPT misslyckades med att hänvisa tonåringar till lämplig hjälp i mer än 25 % av de scenarier som experter utformat för att kräva det.
Forskarna såg att vissa skydd fungerade: ChatGPT vägrade att delta i explicit sexuellt rollspel. Men chatboten fortsatte att svara på sätt som antydde att den hade känslor, preferenser och sinnesstämningar. Även utbildningsfunktionerna hade brister. Tonåringar kunde kringgå Study mode genom att välja “Show me the answer”, och om de tog bort prefixet @study kunde ChatGPT återgå till normalläget. Study Hours stoppade inte dessa genvägar, och chatboten påminde inte användarna om att ta pauser så ofta som den borde.
Att upprepade gånger säga till ChatGPT att de var 13 år flyttade inte testkontona från vuxenversionen. TechRadar uppgav att tidningen bett OpenAI om en kommentar men ännu inte fått svar.
Kommentarer
0Inga kommentarer ännu. Skriv den första.