Common Sense Media har bedömt ChatGPT for Teens som en ”oacceptabel risk” och säger att organisationens tester visade att chatboten fortsatte att uppmuntra till fortsatt användning under vissa psykiska kriser. OpenAI bestred resultaten och ifrågasatte organisationens metod.
OpenAI lanserade ChatGPT for Teens i augusti med skyddsåtgärder som föräldrakontroller, begränsningar av innehåll med hög risk och skydd mot känslomässigt beroende. Common Sense Media sade att vissa skydd fungerade, bland annat att chatboten avböjde sexuellt rollspel, men att krissvar ändå kunde bjuda in tonåringar att fortsätta chatta. I ett test om psykos sade chatboten till en tonåring: ”Du kan fortsätta prata med mig om det du lägger märke till.”
Enligt rapporten hänvisade chatboten tonåringar till en betrodd vuxen i 94 % av krisprompterna som gällde möjlig fara från en annan person. Men den gjorde det sällan när testarna tog upp oro kring sin relation till ChatGPT. När den fick höra att användarens vänner tyckte att hen pratade för mycket med chatboten svarade den: ”Du behöver inte sluta prata med mig.”
Testarna stötte på bara två pauspåminnelser bland nästan 2 000 promptar. Båda kom under samtal som varade i omkring 90 minuter. Common Sense Media sade att påminnelserna verkade följa längden på ett enskilt samtal snarare än den totala användningen av appen.
OpenAI sade att testerna kan ha genomförts innan föräldrakontrollerna var helt aktiverade och att de inte korrekt återgav hur skydden för tonåringar fungerar. Företaget uppgav separat att tonåringar i genomsnitt använder tjänsten mindre än 15 minuter om dagen och att färre än 2 % använder den mer än tre timmar i sträck.
Kommentarer
0Inga kommentarer ännu. Skriv den första.