Box elige Nvidia Nemotron para su nuevo sistema de recuperación de contenido

Box incorporará el sistema de incrustaciones Nemotron de Nvidia a su producto mediante una nueva función llamada Box Content Retrieval. Anunciada el jueves en la conferencia para desarrolladores de Box, la función está diseñada para ayudar a los agentes de IA a recuperar contenido relevante de documentos y responder consultas.

Kari Briski, vicepresidenta de software de IA generativa de Nvidia, dijo a TechCrunch que espera que las consultas se respondan cuatro veces más rápido. Kari Briski también espera un 20 % menos de errores y un 90 % menos de tokens utilizados. Box afirma que la función estará disponible para todos los clientes de Enterprise Advance y que su despliegue comenzará a principios del próximo año.

Nemotron crea metadatos que ayudan al sistema a encontrar pasajes relevantes, en lugar de hacer que un agente lea cada documento. El CEO de Box, Aaron Levie, dijo que el sistema puede devolver fragmentos de documentos que sean más relevantes para la consulta del usuario o la tarea del agente. Según Box, las incrustaciones también pueden ayudar a encontrar conceptos jurídicos relacionados aunque la búsqueda emplee palabras distintas, por ejemplo, al buscar cláusulas y precedentes.

La función implementa el proyecto Nemotron Embed de Nvidia, que ofrece modelos de incrustación de pesos abiertos para la recuperación automatizada. La versión más reciente de Nemotron de Nvidia, publicada en julio, ocupó el puesto número 1 en la evaluación RTEB, que mide la calidad de la recuperación. El sistema también depende de los metadatos y controles de permisos existentes de Box. Box no ha indicado una fecha de lanzamiento más concreta que principios del próximo año.