La IA pierde la confianza cuando recibe la tarea equivocada

El colaborador de TechRadar Luis Blando sostiene que la IA solo genera confianza cuando recibe tareas adecuadas para sus capacidades y está supervisada por personas que entienden sus límites. Las implementaciones demasiado confiadas pueden dejar a los empleados gestionando agentes sin suficiente experiencia, mientras que un solo error visible puede destruir rápidamente la confianza.

La IA funciona mediante probabilidades, por lo que puede ser útil con información poco clara o compleja, pero encaja mal en tareas donde una respuesta incorrecta podría tener consecuencias graves. Blando identifica tres áreas en las que puede ayudar: procesamiento de documentos, apoyo a la toma de decisiones y personalización.

En trabajos con muchos documentos, la IA puede extraer, clasificar y resumir material, comparar contratos con cláusulas estándar u organizar correos de clientes por asunto. Como apoyo a las decisiones, puede combinar el rendimiento anterior, las expectativas de entrega y los descuentos para presentar opciones, pero normalmente una persona toma la decisión final.

La personalización también puede beneficiarse de resultados probabilísticos cuando el contenido solo necesita parecer relevante para una persona. El riesgo aparece cuando una respuesta no validada puede activar una acción: un pequeño error en un contrato puede propagarse a registros, mensajes enviados fuera de la empresa o software nuevo.

Blando compara la IA con un becario superinteligente y trabajador: el acceso a información sensible debe ser limitado, el nivel de control solo debe aumentar después de que el sistema demuestre su capacidad y las personas deben seguir supervisando su trabajo. En el desarrollo de software, el código generado rápidamente por la IA puede crear problemas de calidad y gestión. Gartner ha informado de que el aumento del consumo de tokens y la tarificación basada en el consumo están elevando los costes de la programación con IA.

Blando afirma que el lugar más arriesgado para que la IA razone es el nivel profundo de implementación. Un diseño más seguro mantiene la IA cerca de las ideas y reglas del negocio, donde las personas pueden revisar sus sugerencias antes de que una plataforma determinista convierta un modelo validado en software ejecutable. La abstracción puede limitar el impacto de los errores pequeños.