OpenAI amplía el acceso a Decisions API

OpenAI ha puesto su modelo Decisions API a disposición general y entra así en un mercado marcado por Jev, de TypeSafe, un modelo de decisión que elige rápidamente entre varias opciones y ofrece una puntuación de confianza. Según la fuente, TypeSafe, fundada por un antiguo investigador de un laboratorio de frontera, alcanzó una valoración de 7.600 millones de dólares.

Nikunj Handa, responsable de producto de las API de OpenAI, dijo que la empresa adaptó ChatGPT Luna para acelerar la inferencia y reducir los costes, en vez de crear un modelo de decisión calibrado específicamente. Según Handa, el cambio redujo los tiempos de respuesta de entre uno y tres segundos a 100, 120 o 180 milisegundos. La API se anunció en la jornada para desarrolladores de OpenAI del 29 de septiembre y estuvo disponible para todos los clientes el jueves. La versión pública también incorpora funciones de voz e imagen.

Clientes como Box, Datadog, Ramp y Speak probaron la API. Andrew Hsu, director de tecnología de Speak, una empresa de aprendizaje de idiomas, dijo que la API redujo el tiempo entre acciones de 1,4 segundos a 0,13 segundos. OpenAI también utilizó el producto para mejorar la capacidad de respuesta de su asistente de voz Dots.

Las clasificaciones públicas ofrecen resultados variados. La versión más reciente de Jev ocupa el séptimo puesto en AIM System One Index y el tercero en Artificial Analysis Decision Index; OpenAI’s Decision Model ocupa el octavo y el decimocuarto, respectivamente. La fuente señala que las clasificaciones suelen favorecer a D1 Ultra, de Liquid, y Elephant-1, de Base Lab. Los modelos de TypeSafe son los más consultados en OpenRouter, mientras que la última versión de Jev encabeza la prueba JevMan PacMan.

Handa dijo que Luna puede destacar en la clasificación de imágenes y planteó que unos tiempos de respuesta de hasta 60 milisegundos podrían permitir nuevos usos, como procesar cada fotograma de un vídeo. La fuente indica que la eficacia de un modelo de decisión puede variar según la carga de trabajo.