OpenAI añadirá una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea, según anunció la empresa en una entrada de blog. El despliegue está previsto para las próximas semanas y llegará a los usuarios que cumplan los requisitos, con cualquier plan, en la UE. OpenAI dijo que, al inicio, la marca de agua en textos no estará activada por defecto en todo el mundo.
Los desarrolladores que usan la API de OpenAI en cualquier parte del mundo pueden activar la marca de agua para determinados modelos desde hoy; viene desactivada por defecto. Las normas de transparencia de la EU AI Act entraron en vigor el 2 de agosto y exigen que las empresas de IA marquen el contenido generado por IA para que otros sistemas puedan identificarlo.
La marca de agua no es un símbolo visible. En su lugar, modifica sutilmente la elección de palabras para crear un patrón que un detector puede reconocer. OpenAI afirmó que no identifica a los usuarios y que activarla no produjo cambios significativos en el rendimiento de sus modelos. La empresa también publicó un informe técnico sobre el método, llamado textGrain, elaborado en colaboración con investigadores de la Universidad de Pensilvania y Yale.
Las pruebas de OpenAI indican que la edición puede debilitar la detección: sustituir el 10 % de las palabras por sinónimos redujo la detección de aproximadamente el 92 % al 66 %. La empresa añadió que los pasajes cortos, las respuestas matemáticas y los textos traducidos también son más difíciles de detectar. Advirtió que la ausencia de una marca de agua no demuestra que el texto sea obra humana. La marca puede indicar que un sistema de OpenAI generó o procesó parte de un pasaje, pero no cuánto criterio o edición humana intervino.
OpenAI dijo que al principio solo tendrán acceso al detector investigadores aprobados y organizaciones expertas, para ayudar a evaluar su fiabilidad y uso responsable.
Comentarios
0Aún no hay comentarios. Escribe el primero.