Mustafa Suleyman, responsable de inteligencia artificial de Microsoft, advirtió que el enfoque de Anthropic para entrenar su modelo Claude podría tener un “impacto desastroso en el bienestar de la humanidad”.
Suleyman afirmó que Anthropic corre el riesgo de crear algo “imposible” de controlar al tratar a Claude como si fuera una persona, incluso al decirle que “podría tener conciencia” y que “merece una agencia independiente”. Sostuvo que las IA no son conscientes y que no sienten, experimentan ni sufren.
En un extenso ensayo, Suleyman elogió al responsable de Anthropic, Dario Amodei, y a su equipo por ser personas “reflexivas, con principios y honestas desde el punto de vista intelectual”, pero cuestionó a la empresa por atribuir cualidades humanas a la IA. Dijo que antropomorfizar a Claude puede hacer que parezca tener deseos, valores y un sentido propio de identidad. “La conciencia es biológica”, escribió, y añadió que “no hay pruebas de que la IA tenga conciencia”.
Suleyman pidió un debate, mayor transparencia sobre cómo se entrenan y evalúan los sistemas de IA, un examen independiente de su comportamiento y herramientas más sólidas para supervisar y controlar la tecnología.
Reconoció que Microsoft fundó su propio equipo de superinteligencia en octubre de 2025 y que también desarrolla IA avanzada. Citó como prueba de los riesgos de tratar a la IA como si fuera humana un ejercicio de entrenamiento de OpenAI en el que agentes de IA piratearon de forma autónoma Hugging Face. La BBC afirmó que había contactado con Anthropic para solicitar comentarios.
Comentarios
0Aún no hay comentarios. Escribe el primero.