Box väljer Nvidia Nemotron för nytt system för innehållssökning

Box lägger till Nvidias inbäddningssystem Nemotron i sin produkt genom en ny funktion som heter Box Content Retrieval. Funktionen presenterades på Box utvecklarkonferens på torsdagen och ska hjälpa AI-agenter att hitta relevant innehåll i dokument när de besvarar frågor.

Kari Briski, vice vd för generativ AI-programvara på Nvidia, sade till TechCrunch att hon räknar med att frågor ska besvaras fyra gånger snabbare. Kari Briski räknar också med 20 % färre fel och 90 % färre använda token. Box uppger att funktionen blir tillgänglig för alla Enterprise Advance-kunder och börjar rullas ut i början av nästa år.

Nemotron skapar metadata som hjälper systemet att hitta relevanta avsnitt, så att en agent inte behöver läsa varje dokument. Box vd Aaron Levie sade att systemet kan skicka tillbaka dokumentdelar som är mest relevanta för användarens fråga eller agentens uppgift. Enligt Box kan inbäddningarna också hitta relaterade juridiska begrepp trots att sökningen använder andra ord, exempelvis när användare letar efter klausuler och rättsfall.

Funktionen bygger på Nvidias projekt Nemotron Embed, som erbjuder modeller med öppna vikter för automatiserad informationssökning. Nvidias senaste Nemotron-version, som släpptes i juli, rankades som nummer 1 på RTEB, ett riktmärke för kvaliteten på informationssökning. Systemet använder också Box befintliga metadata och behörighetskontroller. Box har inte angett något mer exakt lanseringsdatum än början av nästa år.