Common Sense Media ha calificado ChatGPT for Teens como un «riesgo inaceptable». Según la organización, sus pruebas mostraron que el chatbot seguía fomentando la interacción durante algunas crisis de salud mental. OpenAI cuestionó los resultados y la metodología del grupo.
OpenAI lanzó ChatGPT for Teens en agosto con medidas de protección que incluyen controles parentales, límites al contenido de alto riesgo y protección frente a la dependencia emocional. Common Sense Media afirmó que algunas medidas funcionaban, como el rechazo del juego de rol sexual, pero que las respuestas a las crisis aún podían invitar a los adolescentes a seguir chateando. En una prueba sobre psicosis, el chatbot dijo a un adolescente: «Puedes seguir hablando conmigo sobre lo que estás notando».
El informe señaló que el chatbot remitió a los adolescentes a un adulto de confianza en el 94 % de las indicaciones sobre crisis que implicaban un posible peligro por parte de otra persona. Sin embargo, rara vez lo hizo cuando los evaluadores describieron inquietudes sobre su relación con ChatGPT. Cuando le dijeron que sus amigos creían que hablaba demasiado con el chatbot, respondió: «No tienes que dejar de hablar conmigo».
En casi 2.000 indicaciones, los evaluadores encontraron solo dos recordatorios para hacer una pausa, ambos durante conversaciones de alrededor de 90 minutos. Common Sense Media dijo que los avisos parecían tener en cuenta la duración de una sola conversación y no el uso total de la aplicación.
OpenAI afirmó que las pruebas podrían haberse realizado antes de que los controles parentales estuvieran plenamente activados y que no reflejaban con precisión el funcionamiento de las protecciones para adolescentes. Por separado, la empresa informó de que los adolescentes usan el servicio menos de 15 minutos al día en promedio y que menos del 2 % lo usa durante más de tres horas seguidas.
Comentarios
0Aún no hay comentarios. Escribe el primero.