Amazon heeft deze week een nieuw beslismodel vrijgegeven onder de naam Strands Decider 2B. Het model is geïnspireerd door TypeSafe’s Jev en is beschikbaar als open source (open broncode), zodat ontwikkelaars het vrij kunnen bekijken en gebruiken. Strands Decider 2B is klein genoeg om lokaal te draaien en is gemaakt om snel en goedkoop tussen vooraf bepaalde opties te kiezen, met een maat voor hoe zeker het van die keuze is.

Wat is een beslismodel en waarom bestaat het?

Een beslismodel is een type AI dat niet lange tekst genereert, maar kiest uit een lijst met mogelijke antwoorden en aangeeft hoe zeker het daarbij is. Dit verschilt van grote taalmodellen, of LLM (groot taalmodel), die vaak bedoeld zijn om tekst te schrijven of complex te redeneren.

Voor veel automatiseringstaken is zo’n beslisser handiger. In een stap in een geautomatiseerde workflow hoeft er vaak maar één juiste keuze te worden gemaakt. Een klein, snel model dat met lage vertraging en kosten een betrouwbare keuze maakt, past daar beter bij dan een grote algemene AI.

Wat is Strands Decider 2B precies?

Strands Decider 2B is gebouwd op een basismodel genaamd Qen3.5-2B. In plaats van tekst te produceren levert het model gekalibreerde keuzes: het geeft aan wat de beste optie is en hoe zeker het daarover is. Amazon zegt dat het:

• snel werkt en lage vertraging biedt;

• goedkoop is in gebruik;

• klein genoeg is om lokaal te draaien op eigen systemen.

Het project startte als een eigen experiment van Amazon-engineer Marc Brooker nadat hij Jev had gezien en zelf iets probeerde te bouwen. Zijn versie scoorde goed op benchmarks voor modellen van die omvang. Amazon heeft het proefwerk opgepakt, opgeschoond en uitgebracht via Strands Labs, een groep binnen Amazon die nieuwe tools en protocollen voor AI-agenten ontwikkelt.

Voor wie is dit nuttig?

Beslismodellen zoals Strands Decider zijn vooral interessant voor organisaties die geautomatiseerde taken hebben waarbij telkens een keuze nodig is. Voorbeelden:

• een systeem dat moet beslissen welke volgende stap een medewerker moet ondernemen;

• automatische routers die mails of taken naar juiste teams sturen;

• eenvoudige klantvragen waar het antwoord uit een beperkte set komt.

Doordat het model een betrouwbaarheids-score teruggeeft, kun je werk waar het onzeker over is doorsturen naar een mens. Daardoor wordt de automatisering praktischer en veiliger. Amazon noemt gesprekken met klanten als aanleiding: hun workflows hadden vaak geen volledige taal-AI nodig, maar wel betrouwbare beslissers.

Beperkingen en uitdagingen

Er verschijnen steeds meer vergelijkbare modellen sinds TypeSafe met het idee kwam. Dat toont interesse, maar roept ook vragen op over hoe nuttig ze zijn in de praktijk. Volgens Brooker is de kernuitdaging het vinden van een balans:

• Je wilt hoge nauwkeurigheid en goede betrouwbaarheidsinschattingen.

• Zonder dat het model z’n vermogen verliest om verschillende talen te begrijpen of basiskennis te bewaren.

Kort gezegd: sneller en goedkoper maken mag niet ten koste gaan van slimme, betrouwbare keuzes.

TypeSafe, de maker van Jev, reageert rustig. Hun oprichter Diogo Almeida waarschuwt dat het lastiger is dan het lijkt om modellen echt ‘slim’ te maken. Hij ziet de huidige golf meer als techneuten die een nieuw ontwerp uitproberen, dan als teams die al klaar zijn met het praktisch bruikbaar maken van zulke intelligentie.

Conclusie

Strands Decider 2B laat zien dat er behoefte is aan kleinere, gespecialiseerde AI-modellen voor praktische automatisering. Het is open broncode en kan lokaal draaien, wat het voor veel organisaties toegankelijk maakt. De grootste uitdaging blijft het behouden van betrouwbaarheid en kennis, terwijl het model snel en goedkoop blijft werken. Voor wie automatisering wil toepassen zonder de kosten en complexiteit van grote taalmodellen, biedt dit type model een aantrekkelijk alternatief.