Utvecklare vänder sig till system med flera agenter, där två eller fler modeller delar på arbetet, i takt med att förbättringarna av större AI-modeller avtar. Men samordningen kan öka fördröjningen och tokenförbrukningen och skapa nya sätt för fel att spridas.
En central samordnare kan dela upp en begäran i mindre uppgifter, fördela dem mellan agenter och sammanställa resultaten. När all kommunikation går genom en enda central punkt kan den dock bli en enda felkälla och orsaka längre behandlingstider. Upplägget kan också begränsa agenternas flexibilitet och förbruka token när samordnaren delar ut uppgifter och upprepar sammanhang.
Att skicka osammanfattade konversationshistoriker mellan agenter kan öka tokenförbrukningen ytterligare. Artikeln uppger att ett programvaruutvecklingsteam på Amazon oväntat fick tokenkostnader på 1,8 miljoner dollar för ett projekt som skulle koppla författardata till boklistningar på nätet. Den nämner också ett rykte om en månatlig Claude AI-faktura på 500 miljoner dollar hos ett stort, ej namngivet företag. Beloppet beskrivs som ett rykte, inte som en bekräftad kostnad.
Enligt artikeln ökar samordningens komplexitet med 9 när man går från 1 agent till 3 och med 25 när man går till 5. Den hänför också 36,9 % av felen i system med flera agenter till bristande samordning, med hänvisning till forskning som inte identifieras i den tillhandahållna texten.
Föreslagna metoder är kodstyrda tillståndsmaskiner som bestämmer vilken agent som agerar, tokenbegränsningar, tidsgränser och sekventiella överlämningar. Artikeln beskriver dem som sätt att begränsa onödigt utbyte mellan agenter och skenande kostnader; den visar inte att metoderna eliminerar samordningsfel.
Kommentarer
0Inga kommentarer ännu. Skriv den första.