AI-agenter kan öka företagskostnaderna genom att skapa och spara information medan de arbetar, enligt TechRadar-skribenten Tobie Morgan Hitchcock. Till skillnad från en chattbot som hämtar sammanhang för att besvara en fråga kan agenter uppdatera sitt eget tillstånd, anropa verktyg och registrera resultat medan uppgifterna pågår.
Det förändrar ekonomin i driftsättningen. Kostnaderna för traditionell generativ AI brukar öka med antalet användare, medan kostnaderna för system med flera agenter kan stiga med uppgifternas komplexitet. AWS uppskattar att ett textbaserat proof of concept med omkring 100 interaktioner om dagen kostar cirka 40 dollar i månaden. Ett agentbaserat proof of concept med ungefär samma volym, en kunskapsbas och skyddsregler kostar cirka 840 dollar i månaden. Anthropic uppger i sin redogörelse för sin forskning om flera agenter att sådana system använder 15 gånger fler token än chattinteraktioner.
Minne medför ytterligare kostnader när agenter sparar tidigare handlingar och belägg för senare användning, av dem själva eller andra agenter. En växande agentflotta kan kräva mer lagring och synkronisering, och det kan bli dyrare att behålla sällan använda poster på den snabbaste lagringsnivån. Artikeln framhåller att minnesdesign bör ta hänsyn till samtidiga uppdateringar, delat sammanhang och skillnaden mellan aktiva och historiska poster.
För äldre poster kan team väga fullständiga versionshistoriker mot inkrementella ändringar, eller kombinera återkommande ögonblicksbilder med mindre uppdateringar. Valen påverkar åtkomst, lagringsbehov och kostnaden för att driva agentflottor. Därför är datalagret en viktig del när projekt går från pilot till produktion.
Kommentarer
0Inga kommentarer ännu. Skriv den första.