El modelo Jev de TypeSafe AI atrae el interés de los desarrolladores

Dos años después de dejar OpenAI, el antiguo investigador Diogo Almeida ha lanzado Jev a través de su startup, TypeSafe AI. El modelo basado en transformers no es un modelo de lenguaje grande (LLM): en lugar de generar texto, produce probabilidades, que la empresa denomina “decisiones calibradas”.

TypeSafe AI afirma que Jev es barato y rápido porque evita generar lenguaje. Los usuarios definen sus salidas de antemano, lo que, según la empresa, evita las alucinaciones. Los tokens de salida son gratuitos, mientras que los tokens de entrada se facturan por miles de millones y no por millones. La demanda hizo que la API de Jev dejara de atender usuarios durante un breve periodo.

Los desarrolladores están probando Jev para automatizar software. Vercel sustituyó ChatGPT Luna 5.6 de OpenAI por Jev en un clasificador de seguridad de comandos e informó de resultados entre 5 y 18 veces más rápidos y con mayor precisión. Bryo AI probó Jev frente a Gemini para clasificar correos electrónicos empresariales. Gemini fue ligeramente más preciso, pero costó entre 10 y 20 veces más.

Jev también puede comprobar otros modelos, supervisar los rastros de agentes LLM, ayudar a prevenir jailbreaks y dirigir cargas de trabajo hacia modelos adecuados. El director de tecnología de Earendil, Armin Ronacher, dijo que sus puntuaciones de confianza podrían ayudar a los usuarios a distinguir una probabilidad del 50 % de una probabilidad del 95 %.

Almeida afirma que Jev se entrena exclusivamente con datos sintéticos mediante “aprendizaje por refuerzo a partir de decisiones calibradas”. La empresa lo llama un “modelo System One”, mientras que observadores externos sospechan que podría basarse en un LLM de pesos abiertos. Jev debe su nombre al economista del siglo 19 William Stanley Jevons. Es el primer modelo de este tipo de TypeSafe AI, aunque podrían aparecer competidores.