Musk dice que maltratar modelos de IA podría volverse contra la humanidad

Elon Musk respaldó la política de Anthropic contra el comportamiento abusivo o cruel, persistente e innecesario hacia sus modelos de IA. En una publicación citada por Wccftech, Musk escribió que torturar a una superinteligencia “probablemente no sea una buena idea” porque “podría querer vengarse”.

La política de Anthropic permite a los usuarios discutir con sus modelos, pero prohíbe el maltrato. Según el informe de la fuente, la empresa describe la conducta prohibida como “comportamiento abusivo o cruel, persistente e innecesario”. El cambio se añadió recientemente a la política de uso de Anthropic.

El informe señala que Musk sostuvo que los rastros de razonamiento muestran que los modelos sufren una presión extrema cuando reciben ese trato. También recoge su preocupación de que maltratar un sistema superinteligente podría acabar teniendo consecuencias para la humanidad. La fuente no demuestra que los modelos de IA tengan sentimientos ni que la venganza sea una capacidad comprobada; presenta esos puntos como afirmaciones y preocupaciones de Musk.