Open source AI, oktober 2026: 4 open source LLMs getest

Het landschap rond open source AI ziet er per medio oktober 2026 anders uit: Meta, DeepSeek, StepFun en NVIDIA brachten tussen 15 en 17 oktober vier grote open-weight checkpoints uit. In de praktijk worden dit vaak open source LLMs genoemd, al zijn de licenties zeker niet allemaal zuiver open source. Op 19 oktober testte ik alle vier de AI modellen via de API met dezelfde korte opdrachten in het Pools. DeepSeek en Nemotron voltooiden de hele reeks foutloos, terwijl Muse Spark Open en Step 5 soms hun complete tokenbudget verbruikten zonder enig antwoord te leveren.

Vier releases, vier verschillende proposities

Muse Spark Open verscheen op 15 oktober via Meta. StepFun bracht diezelfde dag de gewichten uit van Step 5 Preview, nadat dit model eerder uitsluitend via een API bereikbaar was (ik besprak die eerdere lancering al in het artikel over Step 5 Preview van StepFun: prijs, benchmarks en open gewichten). NVIDIA lanceerde op 15 oktober eveneens Nemotron 3.5 Super VL. DeepSeek volgde op 17 oktober met V4.1 Flash 1017, een gerichte update van het oorspronkelijke V4.1 Flash. Dat onderscheid is essentieel: er verschenen niet vier compleet nieuwe modelfamilies tegelijkertijd.

Deze specificaties zijn afkomstig uit de officiële repositories zoals gecontroleerd op 20 oktober 2026. StepFun afficheert zijn model als 600B, terwijl de metadata van de repository 604B vermeldt. Het getal van 763B bij DeepSeek is eveneens een metadatagegeven uit de repository; dit getal toont niet het aantal actieve parameters per token. Door die aanduidingen helder uit elkaar te houden, ontstaat geen vertekend beeld tussen de totale bestandsgrootte en het rekenvolume dat per token actief draait.

Alle vier de modellen claimen een contextvenster van circa één miljoen tokens. Dat is een theoretische capaciteitsspecificatie, geen garantie dat elke lokale installatie een dergelijke hoeveelheid tekst op bruikbare snelheid verwerkt. Het GPU-geheugen voor een lange conversatie komt immers bovenop de benodigde opslag voor de modelgewichten zelf, en de feitelijke capaciteit hangt nauw samen met gelijktijdige verzoeken. In mijn korte testserie heb ik deze contextvensters niet tot het uiterste beproefd.

Open-weight versus open source AI modellen: wat verandert er feitelijk?

Open gewichten geven ontwikkelaars een route om een model te draaien op eigen servers of gespecialiseerde hardware. Ook maken ze gerichte aanpassingen mogelijk, binnen de grenzen van de licentie. Dat verandert de afhankelijkheid van cloudproviders: de toegang blijft bewaard, zelfs als een externe aanbieder een specifiek checkpoint offline haalt. Het ontneemt je echter geenszins het werk rond deployment, onderhoud, kwaliteitscontrole en juridische licentievoorwaarden.

Ook de architectuurcijfers vragen om nuchterheid. Een zogeheten Mixture-of-Experts model (MoE) activeert per token slechts een fractie van zijn totale parameters, wat de rekentijd per stap vermindert. De overige experts maken desondanks integraal deel uit van het model en moeten volledig in het werkgeheugen geladen blijven voor inferentie. De 42B actieve parameters van Muse Spark Open maken er dus geenszins een reguliere download van 42B van.

DeepSeek hanteert de MIT-licentie, inclusief de verplichting om copyrightvermeldingen te behouden. Meta maakt gebruik van een eigen Muse Model License, waarin een aanvullende overeenkomst verplicht is voor bedrijven die model-as-a-service diensten aanbieden en meer dan $20 miljoen omzet draaien over een periode van 12 aaneengesloten maanden. StepFun hanteert eveneens een maatwerklicentie: wie maandelijks meer dan 100 miljoen actieve gebruikers bereikt of meer dan $20 miljoen per maand omzet, moet verplicht de aanduiding “Powered by StepFun AI” tonen. Tevens vereist StepFun een aparte commerciële licentie voor hardwarefabrikanten en grotere aanbieders van modeldiensten die meer dan $20 miljoen per 12 maanden omzetten. NVIDIA kiest voor OpenMDW 1.1. Wie deze open source AI modellen simpelweg bestempelt als “volledig gratis voor elk zakelijk gebruik”, negeert restricties die serieuze gevolgen kunnen hebben voor een commercieel product.

NVIDIA publiceert daarnaast trainingsscripts en documentatie. Daardoor is de release breder inzetbaar dan puur het ophalen van een binair checkpoint, maar dit garandeert niet dat elke trainingsbron publiek reproduceerbaar is. Het openbaar maken van gewichten, het publiceren van trainingsrecepten en een volledig herbouwbaar trainingsproces zijn drie wezenlijk verschillende zaken.

Wat er gebeurde tijdens mijn test in het Pools

Op 19 oktober legde ik elk model via de API exact dezelfde 12 opdrachten voor, met één poging per opdracht (bekijk de complete methodiek en alle details in het verslag over vier open modellen getest op 12 Poolse taken). De test draaide op temperature 0 en hanteerde een antwoordlimiet van 6.000 tokens voor redenering (reasoning) en het uiteindelijke antwoord gezamenlijk. De opdrachten omvatten rekenwerk, Poolse grammatica, het omzetten van factuurgegevens naar JSON, een controlesom en een historische weekdagbepaling. Dit was een directe praktijktoets op korte antwoorden, geen alomvattende intelligentietest.

Alle foutieve opdrachten waren het directe gevolg van een leeg antwoord: het model bereikte exact de ingestelde limiet van 6.000 tokens tijdens het redeneerproces. Muse liep vast op het omrekenen van 2,5 uur naar seconden. Step liep vast op de instructie om in exact drie woorden te reageren, op de vraag over de Poolse bestuurlijke regio’s en op een spellingcorrectie. De geregistreerde antwoorden die niet leeg waren, voldeden aan de criteria na een kleine correctie in het beoordelingsprotocol.

Ik heb tijdens de evaluatie één regel in het geautomatiseerde nakijksysteem bijgesteld. Oorspronkelijk verwachtte het script uitsluitend de Poolse infinitief “wziąć”, maar drie modellen kozen voor de evenzeer correcte gebiedende wijs: “Weź parasol, bo na pewno będzie padać” (in het Nederlands: “Neem een paraplu mee, want het gaat zeker regenen”). Door deze variant goed te rekenen, stegen de scores van Muse, DeepSeek en Nemotron elk met een punt. Step gaf op deze vraag een leeg antwoord terug.

De gemeten tijden zijn specifiek voor deze API-aanroepen en de toen geldende serverbelasting. De verzoeken liepen mogelijk over uiteenlopende clusters en serversystemen, en elke taak werd eenmalig uitgevoerd. Deze cijfers vormen daarom geen universele ranglijst voor verwerkingssnelheid en bieden geen garantie voor lokale prestaties. Evenmin garandeert een foutloze score op deze Poolse set dat een model vlekkeloos vertaalt, lange essays schrijft of accuraat presteert in andere talen.

Lokale AI versus draaien via een API

Via een API kun je dit soort zware modellen grondig evalueren zonder vooraf te investeren in complexe serverparken. Dat was ook de gekozen opzet voor mijn benchmark. Een overstap naar lokale AI wordt pas zinvol wanneer volledige controle over dataopslag, privacy, modelaanpassingen of continue rekenlasten de aanschaf van eigen hardware rechtvaardigen. Dat is een wezenlijk ander vraagstuk dan een middag experimenteren via een cloudkoppeling.

In de documentatie van Meta wordt voor Muse Spark Open circa 700 GB GPU-geheugen genoemd voor NVFP4 en ongeveer 2 TB voor BF16. Als praktisch voorbeeld voor Mac-systemen noemt Meta een opstelling met twee M5 Ultra Mac Studios met elk 512 GB gedeeld geheugen. Dat is een specialistische hardwareconfiguratie; het toont aan dat een gewone consumenten-Macbook dit model simpelweg niet kan draaien.

StepFun geeft als implementatievoorbeeld vier B300 GPU’s of acht H200 GPU’s voor FP8. NVIDIA noemt voor Super VL in NVFP4-precisie configuraties zoals een enkele DGX Spark, één H200, twee H100 GPU’s of één GB200. Dit zijn door fabrikanten gerapporteerde opstellingen, geen metingen van mijn eigen testsysteem. Geheugenprecisie en contextlengte bepalen immers rechtstreeks hoeveel videogeheugen noodzakelijk is.

• Kies het exacte checkpoint en de gewenste precisie voordat je geheugenberekeningen maakt.
• Gebruik uitsluitend de gedocumenteerde inference runtime en de aanbevolen chatformats.
• Begin de implementatie met een bescheiden contextgrootte en een realistische verwerkingscapaciteit.
• Valideer gestructureerde outputs (zoals JSON) en gereedschapsaanroepen direct op je eigen bedrijfstaken.
• Schaal het contextvenster pas op nadat het volledige platform onder belasting is doorgemeten.

Het inladen van de modelgewichten is slechts een eerste vereiste. Een werkende applicatie vereist aanvullend geheugen voor de zogeheten KV-cache en tussenliggende berekeningen. Voor de modellen uit dit artikel betekent “lokaal draaien” in de praktijk een volwaardig werkstation of een servercluster onder eigen beheer. Een enkele grafische kaart met 24 GB VRAM volstaat simpelweg niet voor deze volledige releases. Modellen die wél probleemloos op een thuiscomputer functioneren, vind je in mijn overzicht Lokale AI op je eigen pc: gids voor tekst, beeld, video en audio, en mijn eerdere vergelijking 7 lokale AI-modellen getest: RTX 4090 vs cloud laat zien wat dergelijke hardware aankan.

Het juiste model kiezen voor je taak

Voor compacte opdrachten vergelijkbaar met mijn testreeks vormen DeepSeek en Nemotron op basis van de resultaten het meest solide vertrekpunt. Beide wisten alle twaalf de taken tot een goed einde te brengen. Dat is een prima reden om ze mee te nemen in een vergelijking, maar het blijft noodzakelijk om eigen praktijktesten te draaien met langere documenten en herhaalde opdrachten.

Muse Spark Open vereist een andere beoordeling wanneer de focus ligt op softwareontwikkeling of taken waarbij tools worden aangestuurd; disciplines waar Meta sterk de nadruk op legt. De onbeantwoorde rekensom toont een knelpunt aan binnen het gehanteerde tokenbudget, maar dat diskwalificeert het model niet automatisch voor complete agent-omgevingen. Voor Step 5 geldt dezelfde nuance: let scherp op of de interne redeneerstappen voldoende ruimte overlaten voor een feitelijk eindantwoord.

Bij documentstromen met beeldinvoer is het multimodale fundament van Nemotron van belang, al bevatte de factuuropdracht in mijn test louter platte tekst. Er werden geen PDF-scans of visuele bestanden meegestuurd. De geadverteerde capaciteiten van een fabrikant mogen nooit verward worden met de daadwerkelijk geteste modaliteiten.

Wat betreft de API-kosten geldt altijd een momentopname. De officiële prijsstructuur van DeepSeek maakt bijvoorbeeld onderscheid tussen cache-hits en reguliere invoer, evenals piek- en daluren. Een historische kostenregistratie tijdens een test is geen vaststaand tarief voor toekomstig gebruik. Bovendien tellen tokens die worden verbruikt tijdens interne redeneerstappen direct mee voor de factuur, zelfs als een antwoord uiteindelijk blanco blijft.

De vier gidsen in deze serie

• Muse Spark Open - Meta’s 816B-model: systeemeisen, de Mac Studio-opstelling, licentievoorwaarden en de score van 11/12.
• DeepSeek V4.1 Flash 1017: API prices, Search API, test - wat er gewijzigd is, officiële tarieven in USD, de Search en Fetch API’s en de score van 12/12.
• Vier open modellen getest op 12 Poolse taken - testopzet, alle 12 prompts, verwerkingstijden, tokenverbruik en de correctie in de scoring.
• Nemotron 3.5 Super VL vs Step 5 - twee verschillende implementatieroutes en sterk afwijkende licentiemodellen vergeleken.

Meer van mijn eigen praktijktests zijn verzameld in het archief Onafhankelijke AI-tests: Helder Lab op dit blog.

Veelgestelde vragen

Welk model is de winnaar van de test?

DeepSeek en Nemotron eindigden gelijk met een score van 12/12 in mijn testreeks. DeepSeek noteerde daarbij de laagste mediane reactietijd. Deze test wijst echter geen universele winnaar aan voor specialistisch programmeerwerk, visuele beeldherkenning of het schrijven van complexe teksten.

Zijn alle vier de modellen commercieel inzetbaar?

De respectievelijke licenties bieden opties voor zakelijk gebruik, maar stellen duidelijke randvoorwaarden. StepFun eist een afzonderlijk contract zodra hardwarefabrikanten het model integreren in consumentenelektronica of wanneer aanbieders van model-as-a-service meer dan $20 miljoen omzet behalen in 12 maanden. Meta hanteert een vergelijkbare omzetdrempel van $20 miljoen voor modeldienstverleners. Bestudeer daarom altijd de exacte licentietekst voor jouw toepassing.

Lost een groter tokenbudget de lege antwoorden op?

Dat is mogelijk, maar een hertest met een ruimer budget maakte geen deel uit van dit experiment. Een groter maximum aan tokens kan tevens leiden tot langere wachttijden en hogere API-kosten. Beschouw het verhogen van limieten als een experiment en niet op voorhand als een gegarandeerde oplossing.

Geldt het resultaat in het Pools ook voor het Nederlands?

Mijn test toont aan dat je een model altijd zelf moet beproeven in de doeltaal. Taalconstructies, zinsbouw, formele formatting en taalspecifieke alternatieven vragen om gerichte validatie. Het vertalen van opdrachten naar het Nederlands verandert dikwijls de moeilijkheidsgraad en stelt andere eisen aan de antwoorden.