Snowflake afirma que dirigir las tareas a distintos modelos de IA puede reducir costes sin perder calidad

Snowflake afirma que las empresas pueden reducir los costes de IA asignando cada tarea a un modelo adecuado a sus necesidades, en lugar de recurrir al modelo más potente para todas las solicitudes. La compañía describe este enfoque como «eficiencia de inteligencia»: convertir modelos, datos y recursos de computación en resultados empresariales medibles.

Grace Adamson, responsable de marketing de producto de IA en Snowflake, dijo a TechRadar que algunas tareas requieren razonamiento avanzado, mientras que otras, como la clasificación, la síntesis y la extracción de información, pueden resolverse con modelos más eficientes, incluidas opciones de código abierto. Cortex AI Gateway, de Snowflake, puede dirigir solicitudes según la calidad, la velocidad y el coste, y aplicar los mismos controles de gobernanza, incluido el enmascaramiento, a modelos abiertos y propietarios. Los clientes también pueden limitar los modelos y proveedores disponibles.

En pruebas internas citadas por Snowflake, los agentes que usaron el enrutamiento dinámico de modelos construyeron una canalización de dbt con hasta tres veces más eficiencia de tokens que un método basado únicamente en un modelo de frontera, manteniendo la misma calidad. La compañía afirma que el ahorro en tokens y costes de inferencia puede acumularse al procesar millones de solicitudes al mes.

Snowflake sostiene que las empresas deben valorar conjuntamente la capacidad, la velocidad y el coste de los modelos. La compañía afirma que los modelos abiertos están mejorando en tareas empresariales habituales y que elegir modelos con flexibilidad puede ayudar a las empresas a adaptarse cuando cambian las opciones. Estas afirmaciones y los resultados de las pruebas son de Snowflake; la fuente no ofrece verificación independiente.