Recursive lanza Flint, un modelo de programación para portátiles creado en gran parte con IA

La startup de IA Recursive ha publicado Flint, un modelo gratuito de programación diseñado para funcionar en un portátil. La empresa afirma que su sistema automatizado de investigación, Eureka Machine, ayudó en casi todas las etapas del desarrollo del modelo.

Recursive dice que un equipo pequeño creó Flint desde cero en menos de cuatro meses con ayuda del sistema. La empresa salió del secretismo en mayo con 650 millones de dólares de financiación y una valoración de 4.650 millones de dólares. Entre sus inversores están GV, Nvidia y AMD Ventures. La dirige el director ejecutivo Richard Socher, antiguo científico jefe de Salesforce.

Flint es un modelo de mezcla de expertos con 40.000 millones de parámetros, de los que utiliza 2.500 millones para cada tarea. En las pruebas de Recursive, generó unos 131 tokens por segundo en un MacBook Pro con el chip M4 Pro de Apple. Modelos similares en el mismo equipo alcanzaron entre 58 y 69 tokens por segundo. En el RTX Spark de Nvidia, superó los 150 tokens por segundo. Recursive también afirma que Flint superó a otros modelos de menos de 50.000 millones de parámetros en SWE-Bench Verified.

El modelo se puede descargar gratis de Hugging Face con la licencia Apache 2.0. Como funciona localmente, los desarrolladores pueden usarlo sin conexión y mantener el código en sus propios ordenadores. Recursive afirma que el entrenamiento de baja precisión redujo el tamaño de Flint un 71% con una pérdida de calidad casi nula.

Flint es una primera prueba pública de la mejora recursiva, la idea de que la IA puede ayudar a crear una IA mejor. Recursive describe Eureka como un asistente de investigación supervisado por personas, que pueden detener el proceso si algo sale mal. La empresa no indicó cuánto tiempo ahorró el sistema.