OpenAI:s Decisions API kan hjälpa till att övervaka AI-agenter till lägre kostnad

OpenAI presenterade Decisions API på Dev Day. Vd:n Sam Altman beskrev API:et som ett sätt för företagets Luna-modell att välja bland fördefinierade alternativ, till exempel bildkategorier eller agentbeteenden. Han sade att modellen kan bli snabbare genom att fokusera på ett val, samtidigt som den behåller bildförståelse, brett språkstöd och säkerhetsskydd.

API:et verkar erbjuda funktioner som liknar Jev, en modell från TypeSafe AI som är utvecklad för programvaruautomation. Jev ger sannolikheter för en uppsättning alternativ och är tänkt att göra det snabbt och billigt. OpenAI släppte Decisions API som en begränsad förhandsversion, och det är fortfarande oklart hur likt det är Jev.

TypeSafe-chefen Diogo Almeida sade till TechCrunch att den svåra delen är att leverera användbar intelligens, snarare än att bara vara snabb och billig. Han sade att TypeSafe använder syntetiska data för att skapa statistiskt användbara resultat. Även andra nystartade företag utvecklar liknande API:er.

Ett möjligt användningsområde är att kontrollera AI-agenters handlingar. QueryStory-chefen Shapor Naghibzadeh byggde en hackathondemo där Jev jämför varje handling med agentens uppgift: handlingar som med hög sannolikhet bedöms vara dåliga blockeras, andra flaggas för granskning och resten tillåts. Enligt källan kostade övervakningen i demon 2,94 dollar med Jev, jämfört med 372 dollar med en avancerad språkmodell. Artikeln uppger att OpenAI separat har använt en modell för att bevaka agenters dåliga handlingar, till ”betydande beräkningskostnad”.