Por qué importan los errores seguros de la IA en el trabajo

Las herramientas de IA ya forman parte de la jornada laboral de muchos empleados y ayudan con tareas como redactar correos, resumir contenido y preparar informes. Pero, a medida que las organizaciones dependen más de ellas, aumentan los riesgos de uso indebido y de confiar demasiado en sus resultados.

En 2023, ChatGPT inventó citas falsas que varios abogados de EE. UU. incluyeron en documentos legales; los abogados recibieron sanciones tras presentarlos. El caso muestra el peligro de actuar basándose en información generada por IA sin comprobar las fuentes primarias. Las alucinaciones son solo una parte del problema: los empleados también pueden introducir información sensible en herramientas no autorizadas, lo que genera riesgos de seguridad, privacidad y cumplimiento normativo.

Los requisitos de transparencia de la EU AI Act se aplican desde el 2 de agosto de 2026 a las organizaciones incluidas en su ámbito. Según la fuente, exigen transparencia sobre las interacciones de la empresa con la IA y sobre el contenido generado o manipulado por IA, además de un nivel adecuado de alfabetización en IA para el personal. La fuente indica que las infracciones de los requisitos de transparencia pueden acarrear multas de hasta 15 millones de euros o el 3 % de la facturación anual total de una organización.

El director de tecnología de MetaCompliance sostiene que la verificación debe ajustarse a lo que está en juego. Para tareas de bajo riesgo, como redactar borradores internos o hacer una lluvia de ideas, pueden bastar comprobaciones puntuales. Los resultados que se utilicen en decisiones laborales o financieras, o en contenido dirigido a clientes, requieren procesos de aprobación y seguimiento más estrictos, con intervención humana.

La fuente cita una investigación según la cual el 40 % de los CISO teme que el personal comparta información sensible con plataformas de IA generativa, mientras que el 68 % considera que los empleados son el mayor riesgo cibernético de sus organizaciones. La fuente recomienda identificar los usos de IA no autorizados, ofrecer alternativas seguras y proporcionar al personal reglas claras, formación y rutinas de verificación.