OpenAI kondigde tijdens Dev Day een nieuw product aan: de Decisions API. Dit is een manier om een model een vaste set keuzes te geven en snel te laten aangeven welke keuze het het meest waarschijnlijk acht. De term API (een manier waarop verschillende softwareprogramma's met elkaar praten) wordt hiervoor gebruikt.

Wat doet de Decisions API precies?

De Decisions API laat een model kiezen uit een vooraf bepaalde lijst opties. Denk aan voorbeelden als:

• in welke categorie een afbeelding hoort

• welk gedrag een autonoom software-agents moet uitvoeren

Door het model alleen te laten kiezen tussen vaste opties, wordt het veel sneller en goedkoper dan wanneer het model vrij moet formuleren of uitgebreid moet redeneren. Tegelijk houdt het model nog inzichten zoals beeldbegrip en taalondersteuning.

Hoe verhoudt dit zich tot Jev en TypeSafe?

Begin september verscheen er al een model van een bedrijf genaamd TypeSafe AI, met de naam Jev. Jev is speciaal gemaakt om precies dit soort snelle keuzes te doen: het geeft voor elke optie een waarschijnlijkheid en werkt daardoor snel en goedkoop. OpenAI’s Decisions API lijkt op dat idee.

TypeSafe gebruikt de term System One om dit type snelle, intuïtieve beslissingen te beschrijven, tegenover System Two voor langzamere, bedachtzame redenering. Volgens TypeSafe is het doel niet alleen snelheid en lage kosten, maar ook slimme, statistisch betrouwbare uitkomsten — zij gebruiken veel gesimuleerde of "synthetische" data om het model te trainen.

Het is nog niet helemaal duidelijk hoe sterk OpenAI’s uitvoering overeenkomt met Jev. OpenAI gaf de API als beperkte preview vrij, en er zijn nog niet veel voorbeelden van gebruik in het wild. Wel is er veel interesse vanuit ontwikkelaars.

Waarom dit belangrijk is voor automatisering en veiligheid

Een belangrijke reden dat dit soort modellen opkomt, is dat grote taalmodellen vaak relatief traag en duur zijn voor eenvoudige taken. Als een taak alleen vraagt om een keuze uit vaste opties, is het zinvol om een sneller, goedkoper model te gebruiken.

Een concrete toepassing is toezicht op autonome agents — programmatjes die zelfstandig acties uitvoeren op internet. OpenAI heeft na een aantal incidenten extra beveiliging ingebouwd waarbij een apart model agent-acties controleert, maar dat bleek duur te zijn als je steeds hetzelfde zware model gebruikt.

Voorbeeld uit een demo: iemand bouwde een controlelaag die elke actie van een agent vergelijkt met de opdracht die de agent had gekregen. De controlelaag blokkeert acties waarvan het model met hoge zekerheid zegt dat ze ongepast zijn, markeert twijfelgevallen voor handmatige controle en laat veilige acties gewoon door. Volgens die demo kost zo’n controle met Jev ongeveer $2,94, terwijl hetzelfde met een groot taalmodel honderden dollars zou kosten.

Belangrijke punten zijn:

• Jev-achtige modellen zijn goedkoop genoeg om elke actie te controleren.

• Dat maakt continue bewaking van agents praktisch haalbaar.

• Goedkopere controle kan helpen ongelukken of misbruik te stoppen voordat ze groot worden.

Concurrentie en aandachtspunten

OpenAI is niet de enige die met dit soort oplossingen komt; meerdere startups werken aan vergelijkbare modellen. Een belangrijke vraag blijft hoe goed de uitkomsten in de praktijk kloppen: een snel model is nuttig, maar het moet ook betrouwbare beslissingen geven die aansluiten op de werkelijkheid.

TypeSafe beweert dat hun voordeel ligt in de manier waarop ze data genereren om het model precies te laten voorspellen wat nodig is. Hoe verschillende aanbieders dat oplossen, en welke aanpak het beste werkt voor specifieke taken, moet de praktijk uitwijzen.

Conclusie

De Decisions API van OpenAI volgt een trend: modellen die heel snel en goedkoop een beperkte set keuzes maken. Zulke modellen kunnen softwareautomatisering goedkoper en betrouwbaarder maken, en ze bieden een haalbare manier om autonome agents voortdurend te controleren. Daarmee kunnen ze een bruikbare laag van toezicht en veiligheid toevoegen, vooral als ze even betrouwbaar blijken te zijn als de grotere, duurdere modellen.