Två år efter att han lämnade OpenAI har den tidigare forskaren Diogo Almeida släppt Jev genom sitt startupbolag TypeSafe AI. Den transformerbaserade modellen är inte en stor språkmodell (LLM): i stället för att skapa text producerar den sannolikheter, som företaget kallar ”kalibrerade beslut”.
TypeSafe AI säger att Jev är billig och snabb eftersom modellen undviker språkproduktion. Användarna definierar utdata i förväg, vilket enligt företaget förhindrar hallucinationer. Utgående token är gratis, medan ingående token mäts i miljarder i stället för miljoner. Efterfrågan gjorde att Jevs API kortvarigt inte kunde betjäna användare.
Utvecklare testar Jev för programvaruautomatisering. Vercel ersatte OpenAI:s ChatGPT Luna 5.6 med Jev i en klassificerare för kommandosäkerhet och rapporterade resultat som var 5 till 18 gånger snabbare och mer träffsäkra. Bryo AI testade Jev mot Gemini för klassificering av företagsmejl. Gemini var något mer träffsäkert, men 10 till 20 gånger dyrare.
Jev kan också kontrollera andra modeller, övervaka spår från LLM-agenter, bidra till att förhindra jailbreaks och välja lämpliga modeller för olika arbetsbelastningar. Earendils teknikchef Armin Ronacher sade att modellens konfidenspoäng kan hjälpa användare att skilja en sannolikhet på 50 % från en sannolikhet på 95 %.
Almeida säger att Jev tränas uteslutande på syntetiska data med ”förstärkningsinlärning från kalibrerade beslut”. Företaget kallar modellen en ”System One-modell”, medan externa bedömare misstänker att den kan bygga på en LLM med öppna vikter. Jev är uppkallad efter ekonomen William Stanley Jevons, som levde under det 19:e århundradet. Modellen är TypeSafe AI:s första i sitt slag, men konkurrenter kan följa efter.
Kommentarer
0Inga kommentarer ännu. Skriv den första.