Amazon Web Services ha lanzado Strands Decider 2B, un modelo de código abierto diseñado para elegir entre opciones predefinidas en flujos de trabajo de IA. Está inspirado en Jev, el modelo de decisión de TypeSafe, mientras los desarrolladores buscan modelos más adecuados para la automatización informática que los grandes modelos de lenguaje de propósito general.
Strands Decider 2B está basado en Qen3.5-2B. En lugar de generar texto, devuelve opciones con puntuaciones de confianza. Amazon afirma que el modelo ya está disponible y que es lo bastante pequeño para ejecutarse localmente. La compañía lo describe como una opción rápida y de bajo coste para pasos de un flujo de trabajo que no siempre necesitan un gran modelo de lenguaje con todas sus capacidades.
Marc Brooker, ingeniero distinguido de Amazon, inició el proyecto después de conocer Jev. Su modelo llegó brevemente al primer puesto de Jevbench entre los modelos de su tamaño. Después, ingenieros de Amazon lo prepararon para su lanzamiento a través de Strands Labs. Brooker dijo que las puntuaciones de confianza y un conjunto cerrado de respuestas posibles pueden hacer más fiables esos pasos del flujo de trabajo, y reducir potencialmente la latencia y el coste.
Desde que TypeSafe presentó Jev han aparecido decenas de modelos similares, lo que plantea dudas sobre su valor. Brooker dijo que los desarrolladores deben mejorar la precisión y la calibración de las decisiones sin perjudicar la comprensión de idiomas ni el conocimiento de propósito general. Diogo Almeida, CEO y fundador de TypeSafe, dijo que todavía no veía una competencia real para su empresa y advirtió que conseguir que los modelos sean realmente capaces es difícil.
Comentarios
0Aún no hay comentarios. Escribe el primero.