Recursive lanserar Flint, en bärbar kodningsmodell som till stor del byggts med AI

AI-startupen Recursive har släppt Flint, en kostnadsfri kodningsmodell som är utformad för att köras på en bärbar dator. Företaget uppger att dess automatiserade forskningssystem Eureka Machine hjälpte till med nästan alla delar av modellens utveckling.

Recursive säger att ett litet team byggde Flint från grunden på mindre än fyra månader med hjälp av systemet. Företaget lämnade det dolda läget i maj med 650 miljoner dollar i finansiering och en värdering på 4,65 miljarder dollar. Bland investerarna finns GV, Nvidia och AMD Ventures. Företaget leds av vd:n Richard Socher, tidigare chefsforskare på Salesforce.

Flint är en mixture-of-experts-modell med 40 miljarder parametrar, varav den använder 2,5 miljarder åt gången för en uppgift. I Recursives tester genererade den omkring 131 token per sekund på en MacBook Pro med Apples M4 Pro-chip. Liknande modeller på samma dator nådde 58 till 69 token per sekund. På Nvidias RTX Spark översteg hastigheten 150 token per sekund. Recursive uppger också att Flint presterade bättre än andra modeller med färre än 50 miljarder parametrar på SWE-Bench Verified.

Modellen kan laddas ner gratis från Hugging Face under licensen Apache 2.0. Eftersom den körs lokalt kan utvecklare använda den offline och behålla koden på sina egna datorer. Recursive säger att träning med låg precision minskade storleken på Flint med 71 procent med nästan ingen kvalitetsförlust.

Flint är ett tidigt offentligt test av rekursiv självförbättring, idén att AI kan bidra till att bygga bättre AI. Recursive beskriver Eureka som en forskningsassistent under mänsklig tillsyn, som kan stoppas om något går fel. Företaget uppgav inte hur mycket tid systemet sparade.