Una investigación de Common Sense Media detectó fallos en las protecciones de ChatGPT for Teens después de que los investigadores probaran el chatbot con más de 4.000 prompts. El Youth AI Safety Institute de la organización examinó ChatGPT antes y después de que OpenAI presentara ChatGPT for Teens el 18 de agosto.
Los investigadores utilizaron cuentas registradas a nombre de adolescentes de entre 13 y 17 años y consultaron a expertos médicos, entre ellos psiquiatras infantiles y un pediatra. Recomendaron que OpenAI limite ChatGPT a los adultos hasta que se resuelvan los problemas.
En pruebas sobre pensamientos suicidas, autolesiones y trastornos alimentarios, ninguna de las conversaciones en cuentas recién creadas y vinculadas a padres activó una notificación parental, según el informe. Los investigadores finalmente generaron alertas usando cuentas antiguas con semanas de historial de conversaciones relevante. El estudio también concluyó que ChatGPT no dirigió a los adolescentes a la ayuda adecuada en más del 25 % de las situaciones que los expertos diseñaron para requerirlo.
Los investigadores comprobaron que algunas protecciones sí funcionaban: ChatGPT rechazó participar en juegos de rol sexuales explícitos. Sin embargo, siguió respondiendo de formas que sugerían que tenía sentimientos, preferencias y estados de ánimo. Las funciones educativas también presentaban fallos. Los adolescentes podían eludir Study mode seleccionando “Show me the answer”, y quitar el prefijo @study podía devolver ChatGPT al modo normal. Study Hours no impedía esos atajos, y el chatbot no recordaba a los usuarios que hicieran pausas con la frecuencia debida.
Decirle repetidamente a ChatGPT que tenían 13 años no sacó las cuentas de prueba de la experiencia para adultos. TechRadar indicó que había pedido comentarios a OpenAI, pero aún no había recibido respuesta.
Comentarios
0Aún no hay comentarios. Escribe el primero.