Minska onödig beräkningskraft för att få kontroll över AI-kostnaderna

Att välja billigare modeller kan hjälpa företag att hantera kostnaderna för artificiell intelligens, men det löser inte hela problemet, enligt Ben Canning på TechRadar. När företag går från experiment till storskalig användning av AI-agenter ökar beräkningskostnaderna. Enligt källan använde Uber hela sin AI-budget för 2026 på fyra månader.

Modellstyrning och billigare modeller, däribland kinesiska modeller som Kimi K3, kan minska utgifterna för utvalda uppgifter. Men Canning menar att organisationer också behöver avgöra när en stor språkmodell (LLM) är lämplig. Återkommande uppgifter som filavstämning, kontroller av affärsregler och regelefterlevnad kan hanteras effektivare med befintliga arbetsflöden för databehandling.

Enligt artikeln saknar många LLM-system ett lager för affärslogik: arbetsflöden som tillämpar organisationens egna definitioner, regler och krav på regelefterlevnad. Utan ett sådant lager kan en modell gång på gång samla in ett brett sammanhang för att besvara en fråga och ändå missa interna definitioner, till exempel hur företaget beräknar marginal.

Med ett sådant lager kan analysarbetsflöden beräkna återkommande nyckeltal, medan en LLM använder resultaten. Artikeln säger att det kan minska onödig tokenanvändning och dubbel beräkning mellan molnbaserade dataplattformar och LLM:er. Den hävdar också att enhetlig affärslogik kan stärka förtroendet för AI-verktyg och bidra till att de införs bredare.

Canning varnar för att agenter kan gå i fel riktning utan lämpliga regler. I ett företag med 1 000 agenter kan en gemensam källa till affärskontext bidra till att hålla svaren konsekventa, skriver han. Han drar slutsatsen att riktade användningsområden, tillförlitliga arbetsflöden och styrd affärslogik kan förbättra avkastningen på AI.