Anthropic prohibirá a los usuarios que abusen de forma persistente e innecesaria de su IA

Anthropic está cambiando su política de uso para permitir que sus herramientas de IA pongan fin a las conversaciones en casos de abuso «persistente e innecesario». La empresa dijo que ya lo había hecho en casos «raros».

La nueva norma añade el comportamiento abusivo hacia la IA a una lista de conductas prohibidas que incluye acosar a otras personas, promover las autolesiones y crear imágenes íntimas sin consentimiento. Anthropic afirma que solo se aplica en «casos extremos» de abuso reiterado. No abarca la frustración habitual de los usuarios, las objeciones, los temas creativos oscuros ni las pruebas e investigaciones de modelos. La empresa no ha definido claramente qué considera comportamiento abusivo o cruel hacia sus modelos.

El cambio ha suscitado un debate sobre si la gente debería ser cortés con la IA. Algunos usuarios de redes sociales lo elogiaron por promover los buenos modales o el «bienestar de los modelos»; otros criticaron que se trate a la IA como si fuera humana. Dr Barry Scannell, socio tecnológico del bufete irlandés William Fry, dijo que antropomorfizar la IA puede llevar a la gente a malinterpretar lo que es. Mustafa Suleyman, director de IA de Microsoft, respondió a la actualización con un emoji de cara derritiéndose.

The Verge informó primero de los cambios, que llegaron tras la revisión anual de políticas de Anthropic. La empresa también actualizó normas sobre otros riesgos, entre ellos la prohibición de las «campañas engañosas» y la aclaración de que Claude no puede utilizarse para engañar a votantes ni perturbar elecciones. Anthropic dijo que su política anterior ya prohibía usar sus herramientas para desarrollar armas.