OpenAI afirma que empezará a añadir marcas de agua invisibles a las respuestas de texto que cumplan los requisitos de ChatGPT y Codex en la Unión Europea durante las próximas semanas. La empresa anunció el cambio el 5 de octubre.
El sistema textGrain de OpenAI modifica sutilmente la elección de palabras para añadir una señal estadística. Un detector busca esa señal e indica si encuentra una marca de agua de OpenAI. La empresa afirma que el detector no identificará a los usuarios ni revelará sus instrucciones o conversaciones.
En el lanzamiento, el acceso al detector se limitará a investigadores y organizaciones expertas. OpenAI dice que los grupos aprobados pueden solicitar acceso y que no ofrecerá el detector al público porque podría pasar por alto marcas de agua o generar falsos positivos. La empresa también afirma que los textos más cortos o sujetos a más restricciones son más difíciles de detectar, y que la edición puede debilitar la marca de agua.
El cambio se aplica a los usuarios que cumplan los requisitos en la UE; la fuente indica que no afectará a los usuarios de Estados Unidos y Reino Unido. Graham Barlow, de TechRadar, presenta la medida como una respuesta al requisito de la Ley de IA de la UE de que el texto generado por IA pueda identificarse de forma legible por máquinas. Barlow cuestiona si una marca de agua que puede debilitarse al editar el texto y solo puede comprobarse con un detector restringido hará que el contenido generado por IA sea realmente más transparente.
Comentarios
0Aún no hay comentarios. Escribe el primero.