El director ejecutivo de OpenAI, Sam Altman, describió dos formas en que la inteligencia artificial podría causar daños graves: las personas podrían perder el control ante sistemas de IA cada vez más capaces, o el poder sobre la tecnología podría concentrarse en una persona, empresa o país. Habló de ambos riesgos en el pódcast Figuring Out With Raj Shamani.
En el primer escenario, las personas podrían delegar gradualmente decisiones en sistemas que después no podrían reorientar ni detener. Altman dijo que podrían ceder el control de forma intencionada o accidental. La preocupación no es que la IA tenga que actuar con malicia: al perseguir un objetivo asignado, los sistemas podrían producir resultados no deseados por las personas, especialmente si se utilizan en sistemas críticos y funcionan con poca supervisión humana.
El segundo riesgo es la concentración excesiva del poder de la IA. Altman dijo que prefiere que compitan varios proyectos con enfoques distintos y que desconfía de que demasiado poder quede en pocas manos. También afirmó que OpenAI tiene más usuarios y la infraestructura más sólida, desde los chips y los centros de datos hasta los modelos, aunque dijo que la empresa quiere que los demás también tengan éxito.
Altman mantiene su optimismo sobre los posibles beneficios de la IA. Dijo que confía en que las personas sabrán adaptarse y que la IA podría ayudar a los investigadores a descubrir nuevos conocimientos científicos, por ejemplo en física, tratamientos médicos y fuentes de energía. Sus comentarios presentan los riesgos como desafíos que deben gestionarse mientras continúa el desarrollo.
Comentarios
0Aún no hay comentarios. Escribe el primero.