OpenAI heeft zijn Decisions API (een programmeerinterface waarmee software met elkaar communiceert) voor alle gebruikers opengesteld. Met deze dienst wil OpenAI snel en goedkoop beslissingen laten nemen door software — vergelijkbaar met het Jev-model van TypeSafe dat recent veel aandacht kreeg.

Wat is een beslissingsmodel?

Een beslissingsmodel is een soort kunstmatig intelligent systeem dat, gegeven een aantal opties, snel kiest wat het beste lijkt. Het geeft vaak ook aan hoe zeker het is van die keuze. Omdat zulke modellen eenvoudiger en sneller zijn dan grote taalmodellen voor tekst, worden ze in veel toepassingen gebruikt waar snelheid en lage kosten belangrijk zijn.

TypeSafe noemde hun model Jev. Dat model richt zich specifiek op dit soort ‘super-classifier’-taken: snel kiezen tussen opties en een betrouwbaar zekerheidscijfer geven. OpenAI reageerde met zijn eigen versie door ChatGPT Luna aan te passen zodat het veel sneller en goedkoper kan antwoorden.

Wat heeft OpenAI precies gedaan?

OpenAI heeft geen geheel nieuw model gebouwd, maar gebruikt Luna en heeft de instellingen aangepast om de reactietijd flink te verkorten en de kosten omlaag te brengen. Belangrijke punten:

• Reactietijd ging van één tot drie seconden naar ongeveer 100–180 milliseconden.

• OpenAI voegde ook ondersteuning voor spraak en beeld toe aan de publieke versie.

• De service is wereldwijd sneller gemaakt door de benodigde rekencapaciteit dichter bij gebruikers te plaatsen.

In proefprojecten met bedrijven zoals Box, Datadog, Ramp en Speak vervingen ingenieurs bestaande taalmodellen door de Decisions API om hogere doorvoer en lagere vertraging te bereiken. Speak rapporteerde bijvoorbeeld dat de responstijd per actie daalde van 1,4 seconden naar 0,13 seconden.

Hoe verhoudt dit zich tot concurrenten?

De markt voor beslissingsmodellen groeit snel. TypeSafe’s Jev-model maakte de categorie populair en blijft nieuwe versies uitbrengen met extra functies zoals beeldherkenning en slimme ‘als-dan’-logica.

Er bestaan meerdere onafhankelijke tests en ranglijsten (benchmarks) die deze modellen vergelijken. Enkele observaties uit die tests:

• Sommige nieuwe modellen, zoals D1 Ultra van Liquid en Elephant-1 van Base Lab, scoren vaak hoog.

• De nieuwste Jev-versie staat in sommige lijsten ook erg goed genoteerd.

• OpenAI’s Decision Model staat in twee genoemde indices op de achtste en veertiende plaats.

• TypeSafe’s modellen zijn op dit moment veel bevraagd via OpenRouter, een platform dat verzoeken naar modellen doorstuurt.

Een speels voorbeeld is JevMan, een benchmark waarin modellen Pac-Man spelen. Daar blijkt het nieuwste Jev-model bovenaan te staan. Die test is waardevol omdat het veel snelle, risicovolle beslissingen achter elkaar vraagt — precies waar dit soort modellen voor bedoeld zijn.

Wat verandert dit voor jou en organisaties?

Voor jou als gebruiker of organisatie betekent de komst van snelle beslissingsmodellen dat veel taken die voorheen traag of duur waren, nu praktisch en betaalbaar kunnen worden geautomatiseerd. Mogelijke toepassingen:

• Snelle keuzelogica in websites of apps, waar elke milliseconde telt.

• Verbeterde spraakassistenten die direct reageren.

• Automatische beoordeling of routing van verzoeken binnen bedrijven.

OpenAI denkt zelfs aan nog lagere reactietijden, bijvoorbeeld rond de 60 milliseconden, wat mogelijkheden opent voor toepassingen per videoframe of real-time beslissingen in bewegende beelden.

Waar liggen de grenzen?

Het blijft onduidelijk wat precies een ‘goed’ beslissingsmodel maakt. Belangrijke factoren zijn:

• snelheid

• kosten

• nauwkeurigheid en calibratie (hoe betrouwbaar de zekerheidsinschatting is)

• flexibiliteit voor verschillende soorten input, zoals tekst, beeld en spraak

Verschillende taken vragen om verschillende optimalisaties. Daarom raden makers en experts aan modellen altijd zelf te testen in de eigen werkomgeving.

Conclusie

Met de brede uitrol van OpenAI’s Decisions API groeit de concurrentie in de markt van snelle, goedkope beslissingsmodellen. TypeSafe’s Jev blijft sterk, maar OpenAI speelt nu ook mee door Luna slimmer te gebruiken en extra modaliteit en snelheid te bieden. Voor organisaties betekent dit meer keus en lagere kosten bij het automatiseren van eenvoudige maar tijdkritische beslissingen. De komende maanden zal uit de praktijk blijken welke aanpak in welke situaties het beste werkt.