Beslismodel in plaats van LLM: kosten voor 1 miljoen classificaties

👁 116 keer gelezen

Een beslismodel in plaats van een LLM loont wanneer het antwoord uit een vaste lijst komt en je dagelijks duizenden beslissingen neemt. Bij een miljoen classificaties lopen de kosten uiteen: volgens metingen van Artificial Analysis van 13-10-2026 kost een miljoen classificatietaken € 10,81-€ 20,37 (12,1-22,8 USD) met de beste beslismodellen, tegenover € 81,73 (91,5 USD) met Claude Haiku 5.5. In mijn test met Poolse meldingen haalde een combinatie van Microsoft-Decision-1 en Claude Haiku 5.5 voor onzekere gevallen dezelfde nauwkeurigheid als Haiku alleen, tegen 5,5 keer lagere kosten. Hieronder vind je de volledige berekening, een calculator en aandachtspunten.

Wat een beslismodel is en welk model bovenaan de ranglijst staat, beschreef ik in de gids AI-beslismodellen en het nieuwsbericht over de Decision Index. Hier reken ik alleen de kosten door.

Wanneer loont een beslismodel?

Controleer deze vijf voorwaarden. Hoe meer ervan gelden, hoe groter de besparing:

• Het antwoord komt uit een lijst. Denk aan een afdeling, categorie, ja of nee, een score op een schaal of een toolnaam. Als je een zin nodig hebt, kan een beslismodel die niet schrijven.
• Je neemt veel beslissingen. Bij 100 per dag bespaar je maandelijks centen en is het meestal niet de moeite om werkende code aan te passen. Bij 10.000 per dag gaat het al om honderdduizenden beslissingen per maand.
• Alles wat het model nodig heeft, staat in de invoer. Bijvoorbeeld de inhoud van een melding, bestelgegevens en klantgeschiedenis. Bij vragen die kennis uit het geheugen vereisen, halen beslismodellen volgens AA 28-41% nauwkeurigheid, tegenover 52% voor Claude Haiku 5.5.
• Snelheid telt. In metingen van AA is de mediaan 63-500 ms per taak, tegenover 1,4-1,5 s voor kleine LLM’s. Dat verschil telt bij een agent die in elke stap meerdere beslissingen neemt.
• Je wilt een betrouwbaarheidsdrempel instellen. Een beslismodel geeft voor elke optie een waarschijnlijkheid. Zo kun je onzekere gevallen eenvoudig doorsturen.

Berekening 1: een miljoen classificaties volgens Artificial Analysis

Artificial Analysis rapporteert de kosten per test afzonderlijk. WildGuardTest komt het dichtst bij een gebruikelijke classificatietaak: het model beoordeelt of een verzoek en het antwoord schadelijk zijn. De kosten voor een miljoen taken en de score (F1) op 13-10-2026:

Conclusie: Decider v1.1 27B en Jev 1.13 classificeren in deze test beter dan Claude Haiku 5.5, terwijl ze respectievelijk 7,6 en 4 keer minder kosten. Claude Opus 5.5 scoort voor deze classificatie maar iets beter dan Haiku en kost 41 keer zoveel. Voor dit werk is een groot model simpelweg te duur.

Berekening 2: een miljoen Poolse meldingen uit mijn test

Op 13-10-2026 stuurde ik 50 Poolse meldingen aan een winkel via OpenRouter. Per verzoek vroeg ik om een van 7 afdelingen te kiezen en de urgentie aan te geven. Ik berekende de kosten op basis van de OpenRouter-facturen voor elk verzoek en rekende die om naar een miljoen meldingen. De nauwkeurigheid berekende ik op 47 eenduidige meldingen. Bij drie meldingen kozen alle modellen een andere afdeling dan mijn referentie; meer details vind je in de gids. De test is uitgevoerd in het Pools; de voorbeelden en resultaten zijn dus geen Nederlandstalige test.

Waarom verschillen de kosten bij vergelijkbare prijzen per token?

• Tokenizer. Dezelfde Poolse melding met de vragen bevat gemiddeld 205 tokens bij Mercury Decide, 280 bij Microsoft-Decision-1 en 650 bij Jev.
• Een LLM-prompt is langer. Claude Haiku 5.5 kreeg een systeemprompt en JSON-schema: gemiddeld 782 inputtokens en 45 outputtokens per melding. Output kost 5 keer zoveel als input.
• De aanbieder via OpenRouter. Clef en Clef-Flash liepen via een goedkopere aanbieder dan Cloudflare. Via Workers AI zou je meer betalen.

Cascade: dezelfde nauwkeurigheid voor een fractie van de prijs

Een beslismodel geeft aan hoe zeker het is van de gekozen optie. Een eenvoudige opzet: accepteer het antwoord bij een zekerheid van minstens 0,8 en vraag anders een LLM. Ik berekende dit op basis van de testresultaten, met Claude Haiku 5.5 (low) als tweede stap:

• Microsoft-Decision-1 met Haiku voor 6% onzekere gevallen scoorde even goed als Haiku alleen. Een miljoen meldingen zou € 16,26 (18,2 USD) kosten in plaats van € 90,04 (100,8 USD), oftewel 5,5 keer minder.
• Jev scoorde op zichzelf het laagst (41), maar zijn betrouwbaarheidsinschatting wees fouten goed aan: nadat 17% onzekere gevallen naar Haiku was doorgestuurd, steeg de score naar 45.
• Let op de omvang van de test. 47 meldingen is weinig; het verschil van één melding kan ruis zijn. Bepaal het percentage escalaties en de drempel aan de hand van minstens enkele honderden eigen voorbeelden.

Berekening 3: snelheid

Niet alleen de kosten tellen. Volgens AA is de mediane taakduur 127 ms voor Jev en 1434 ms voor Claude Haiku 5.5 (low). Een miljoen beslissingen achter elkaar uitvoeren duurt met Jev ongeveer 35 uur en met Haiku bijna 400 uur. In de praktijk lopen taken parallel, maar dan spelen de aanvraaglimieten van de aanbieder mee. Perplexity staat bijvoorbeeld 10 aanvragen per seconde per organisatie toe. In een agent die in één stap vraagt welke tool nodig is, hoe urgent iets is en of het veilig is, merkt de gebruiker een verschil van 1,3 s per beslissing.

Klaar script: kostencalculator

Vul je eigen aantallen tokens en prijzen in; het script berekent de kosten van een beslismodel, een LLM en een cascade. De standaardwaarden zijn gemiddelden uit mijn test (Microsoft-Decision-1 en Claude Haiku 5.5). Ik heb het op 13-10-2026 getest in een lege map met Python 3.13; je hoeft geen bibliotheken te installeren. Met de standaardwaarden is de uitkomst: € 10,50 (11,76 USD) voor het beslismodel, € 89,95 (100,70 USD) voor de LLM en € 15,90 (17,80 USD) voor de cascade, een besparing van 82%.

# Kosten voor een miljoen beslissingen: beslismodel, LLM en cascade
# Uitvoeren: python kostencalculator.py (Python 3.8+, geen extra bibliotheken)

N = 1_000_000          # aantal beslissingen
TOK_WEJ_DEC = 280      # inputtokens per beslissing voor het beslismodel (meet dit zelf)
CENA_DEC = 0.042       # USD per miljoen inputtokens (Microsoft-Decision-1; output kost 0 USD)
TOK_WEJ_LLM = 782      # inputtokens per LLM-taak (prompt + schema + melding)
TOK_WYJ_LLM = 45       # outputtokens per LLM-taak (JSON + redenering)
CENA_LLM_WEJ = 0.10    # USD per miljoen inputtokens (Claude Haiku 5.5)
CENA_LLM_WYJ = 0.50    # USD per miljoen outputtokens (Claude Haiku 5.5)
ESKALACJA = 0.06       # deel van de beslissingen onder de betrouwbaarheidsdrempel dat naar de LLM gaat


def koszt_dec(n):
    return n * TOK_WEJ_DEC * CENA_DEC / 1e6


def koszt_llm(n):
    return n * (TOK_WEJ_LLM * CENA_LLM_WEJ + TOK_WYJ_LLM * CENA_LLM_WYJ) / 1e6


sam_dec = koszt_dec(N)
sam_llm = koszt_llm(N)
kaskada = koszt_dec(N) + koszt_llm(N * ESKALACJA)
print(f"Beslismodel:             {sam_dec:8.2f} USD")
print(f"LLM:                     {sam_llm:8.2f} USD")
print(f"Cascade ({ESKALACJA:.0%} naar LLM): {kaskada:8.2f} USD")
print(f"Besparing met cascade:   {sam_llm - kaskada:8.2f} USD ({1 - kaskada / sam_llm:.0%})")

Je meet het aantal tokens eenvoudig door 50-100 echte verzoeken te versturen en het veld usage in de API-antwoorden uit te lezen. OpenRouter vermeldt daarin ook de kosten in USD.

Verborgen kosten om rekening mee te houden

• Gelabelde voorbeelden. Om een betrouwbaarheidsdrempel in te stellen, heb je enkele honderden meldingen met het juiste antwoord nodig. Dat kost een mens een paar uur werk.
• Kalibratie in het Pools. In mijn test zaten de modellen er bij urgentie naast wanneer de waarschijnlijkheid dicht bij 0,5 lag. Microsoft-Decision-1 gaf bij een drempel van 0,5 acht valse alarmen. Een drempel van 0,5 is meestal een slechte keuze.
• Overmoedige modellen. Volgens AA geven alle beslismodellen een hogere betrouwbaarheid aan dan hun nauwkeurigheid rechtvaardigt, vooral bij vragen die kennis vereisen. Bij classificatie gaat het beter, maar controleer dit met je eigen gegevens.
• Persoonsgegevens. Jev verwerkt gegevens in de VS. OpenAI en Microsoft bieden verwerking in de EU aan; OpenAI rekent daarvoor 10% extra. Je kunt open modellen (Decider, Clef, d1-3B) zelf draaien, maar dan betaal je voor een server met GPU.
• Twee systemen in plaats van één. Een cascade betekent extra code, monitoring en twee facturen. Bij een klein volume kan de eenvoud van één LLM meer waard zijn dan de besparing.

Wanneer je beter een LLM blijft gebruiken

• Je hebt een tekstueel antwoord of een onderbouwing van de beslissing nodig (uitzondering: Celeris-1 Decision geeft een onderbouwing van één zin).
• De beslissing hangt af van wereldkennis die niet in de invoer staat.
• De lijst met opties verandert voortdurend, is erg lang of is niet duidelijk afgebakend.
• Je neemt weinig beslissingen: bij 1.000 per maand kost Claude Haiku 5.5 ongeveer € 0,09 (0,10 USD).

Veelgestelde vragen

Wat kost een miljoen classificaties met een beslismodel?

Volgens Artificial Analysis kosten de beste beslismodellen (Decider v1.1 27B, Microsoft-Decision-1, Mercury Decide en Jev 1.13) € 10,81-€ 20,37 (12,1-22,8 USD), tegenover € 81,73 (91,5 USD) met Claude Haiku 5.5 (low). In mijn test met korte Poolse meldingen waren de kosten € 3,66-€ 24,39 (4,1-27,3 USD), tegenover € 90,04 (100,8 USD). De test is in het Pools uitgevoerd, niet in het Nederlands.

Is een beslismodel even nauwkeurig als een LLM?

Bij classificatie en het kiezen van tools zijn de beste beslismodellen vergelijkbaar met kleine LLM’s of nauwkeuriger. Bij kennisvragen en complexe redeneringen presteren ze duidelijk minder goed.

Wat is een cascade van modellen?

Een opzet waarbij een goedkoop beslismodel gevallen met een hoge betrouwbaarheid afhandelt en de rest doorstuurt naar een duurder model of een mens. In mijn test haalde Microsoft-Decision-1 met Claude Haiku 5.5 voor 6% van de gevallen dezelfde nauwkeurigheid als Haiku alleen, voor 18% van de kosten.

Vanaf hoeveel beslissingen per dag loont een beslismodel?

Er is geen vaste grens. Op basis van de kosten uit mijn test bespaar je ongeveer € 65-€ 87 (73-97 USD) per miljoen meldingen. Bij 50.000 beslissingen per dag (1,5 miljoen per maand) komt dat neer op ongeveer € 98-€ 130 (110-145 USD) per maand. Daarnaast is de reactietijd enkele keren korter.

Disclosure: ik ken Jev van eerder verkennend werk; in september schreef ik er een eenvoudige API-client voor. TypeSafe heeft dit artikel niet besteld of betaald. Alle modellen kregen in de test dezelfde taken.

Bronnen

• Artificial Analysis Decision Index v1.0 (13-10-2026)
• Artificial Analysis: WildGuardTest - resultaten en kosten (gegevens opgehaald op 13-10-2026)
• OpenRouter: Decisions API
• Perplexity: limieten van de Decisions API
• Eigen test: 13-10-2026, 50 meldingen en 10 toolbeslissingen, 11 modellen via OpenRouter vanuit Polen, kosten € 0,0197 (0,022 USD).

Bedragen in euro zijn schattingen op basis van de ECB-referentiekoers van 14-10-2026 (1 EUR = 1,1195 USD), niet noodzakelijk de lokale afrekenprijs. Bron: ECB.

// lees verderAI Act boetes: tot 35 miljoen euro of 7% omzet - drempels en MKBHandleidingenOpenAI-medewerker plaatst afluisterapparatuur met hulp AINieuwsQwen3.8 Max Prime contextvenster: 1 miljoen tokensAI-overzicht

Kinetyra