Reducir el cómputo innecesario ayuda a controlar los costes de la IA

Elegir modelos más baratos puede ayudar a gestionar los costes de la inteligencia artificial, pero no resuelve todo el problema, según Ben Canning, de TechRadar. A medida que las empresas pasan de la experimentación al despliegue de agentes de IA a gran escala, aumentan los costes de computación. La fuente afirma que Uber agotó todo su presupuesto de IA para 2026 en cuatro meses.

El enrutamiento entre modelos y los modelos de menor coste, incluidos los modelos chinos como Kimi K3, pueden reducir el gasto en tareas concretas. Sin embargo, Canning sostiene que las organizaciones también deben decidir cuándo conviene usar un modelo de lenguaje grande (LLM). Los procesos repetitivos, como la conciliación de archivos, la aplicación de reglas empresariales y las comprobaciones de cumplimiento, pueden gestionarse con más eficiencia mediante flujos de procesamiento de datos ya existentes.

El artículo afirma que muchos sistemas LLM carecen de una capa de lógica empresarial: flujos de trabajo que aplican las definiciones, reglas y requisitos de cumplimiento propios de cada organización. Sin ella, un modelo puede recopilar una y otra vez un contexto amplio para responder a una pregunta y aun así pasar por alto definiciones internas, como la forma en que una empresa calcula el margen.

Con esa capa, los flujos de análisis pueden calcular medidas recurrentes y un LLM puede utilizar los resultados. Según el artículo, esto puede reducir el uso innecesario de tokens y la duplicación de cómputo entre plataformas de datos en la nube y LLM. También sostiene que una lógica empresarial coherente puede reforzar la confianza en las herramientas de IA y favorecer su adopción.

Canning advierte de que los agentes pueden avanzar en la dirección equivocada si no cuentan con reglas adecuadas. En una empresa con 1.000 agentes, una fuente compartida de contexto empresarial puede ayudar a mantener la coherencia de las respuestas, escribe. Concluye que los casos de uso específicos, los flujos de trabajo fiables y una lógica empresarial gobernada pueden mejorar el rendimiento de la IA.