El rey Charles advierte del peligro existencial de que la IA caiga en malas manos

El rey Charles ha advertido a los directivos de empresas de IA sobre los “peligros existenciales” de que la tecnología caiga en malas manos.

Hizo estas declaraciones en una cumbre que convocó en Dumfries House, en Escocia, para analizar cómo la IA puede beneficiar a la sociedad. En la reunión también participaron Kanishka Narayan, ministra de IA del Reino Unido, el asesor del Papa y representantes de Nvidia, OpenAI y Anthropic.

“Quienes han creado estas tecnologías advierten cada vez más de que la IA corre el riesgo de desarrollar capacidades más oscuras, quizá incluso de quitar vidas”, dijo el rey a los asistentes. Afirmó que había “urgencia” en considerar adecuadamente los peligros de que estas tecnologías cayeran en malas manos y se utilizaran de formas potencialmente catastróficas.

Charles dijo que la tarea no consiste únicamente en hacer avanzar la tecnología, sino en garantizar que siga al servicio de la humanidad, la comunidad y el mundo natural. La cumbre estudia si puede elaborarse un “conjunto común de principios” para orientar el futuro uso de la IA.

El debate se produce tras varias advertencias de personas del sector sobre las capacidades de los modelos avanzados o “frontier” de IA y la regulación necesaria para controlarlos. Los críticos sostienen que centrarse en riesgos hipotéticos del futuro puede distraer de problemas más inmediatos, como el impacto ambiental de la IA. Otros afirman que no se puede confiar en que las empresas de IA se regulen por sí mismas.