Snowflake säger att AI-modellstyrning kan sänka kostnaderna utan att kvaliteten försämras

Snowflake säger att företag kan sänka sina AI-kostnader genom att styra varje uppgift till en modell som passar behovet, i stället för att använda den kraftfullaste modellen för varje förfrågan. Företaget kallar arbetssättet ”intelligenseffektivitet”: att omvandla modeller, data och beräkningsresurser till mätbara affärsresultat.

Grace Adamson, produktmarknadschef för AI på Snowflake, sade till TechRadar att vissa uppgifter kräver avancerat resonemang, medan återkommande arbete som klassificering, sammanfattning och informationsutvinning kan hanteras av effektivare modeller, även alternativ med öppen källkod. Snowflakes Cortex AI Gateway kan styra förfrågningar utifrån kvalitet, hastighet och kostnad och tillämpa samma styrningskontroller, inklusive maskering, på både öppna och proprietära modeller. Kunderna kan också begränsa vilka modeller och leverantörer som är tillgängliga.

I interna tester som Snowflake hänvisar till byggde agenter med dynamisk modellstyrning en dbt-pipeline med upp till tre gånger högre tokeneffektivitet än en metod som enbart använde en frontiermodell, samtidigt som kvaliteten bibehölls. Företaget säger att besparingar på tokenanvändning och inferenskostnader kan växa när miljontals förfrågningar behandlas varje månad.

Snowflake menar att företag bör väga modellernas förmåga, hastighet och kostnad tillsammans. Företaget säger att öppna modeller blir bättre på vanliga företagsuppgifter och att flexibla modellval kan hjälpa företag att anpassa sig när alternativen förändras. Påståendena och testresultaten kommer från Snowflake; källan innehåller ingen oberoende verifiering.