Amazon släpper den öppna beslutsmodellen Strands Decider 2B

Amazon Web Services har släppt Strands Decider 2B, en modell med öppen källkod som ska välja mellan förutbestämda alternativ i AI-arbetsflöden. Den är inspirerad av TypeSafes beslutsmodell Jev, samtidigt som utvecklare söker modeller som passar datorautomation bättre än generella stora språkmodeller.

Strands Decider 2B bygger på Qen3.5-2B. I stället för att generera text returnerar den val med konfidenspoäng. Amazon uppger att modellen är tillgänglig nu och tillräckligt liten för att köras lokalt. Företaget beskriver den som ett snabbt och billigt alternativ för arbetsflödessteg som inte alltid kräver en fullskalig stor språkmodell.

Amazon Distinguished Engineer Marc Brooker startade projektet efter att ha sett Jev. Hans modell låg tillfälligt högst på Jevbench-rankningen för modeller i samma storlek. Därefter förberedde Amazon-ingenjörer den för lansering genom Strands Labs. Brooker sade att konfidenspoäng och en avgränsad mängd möjliga svar kan göra sådana arbetsflödessteg mer tillförlitliga, med potentiellt lägre fördröjning och kostnad.

Dussintals liknande modeller har kommit sedan TypeSafe introducerade Jev, vilket väcker frågor om deras värde. Brooker sade att utvecklare måste förbättra beslutsnoggrannheten och kalibreringen utan att försämra språkförståelsen eller den allmänna kunskapen. TypeSafes vd och grundare Diogo Almeida sade att han ännu inte såg någon verklig konkurrens för företaget och påpekade att det är svårt att göra modellerna verkligt kapabla.