Nemotron 3.5 Super VL vs Step 5: Gewichten, licenties en test

👁 114 keer gelezen

NVIDIA Nemotron 3.5 Super VL en StepFun Step 5 Preview bieden sinds oktober 2026 twee verschillende routes om grote modellen met downloadbare gewichten te draaien. Beide modellen kregen dezelfde 12 taken in mijn test in het Pools op 19 oktober via de API. Nemotron voltooide elke taak; Step voltooide er negen en gaf drie lege antwoorden door het bereiken van de tokenlimiet.

Mijn eerdere aantekeningen over de Step 5 Preview API-lancering en de vergelijking met Kimi K3, GLM en Qwen vormen de achtergrond; de andere releases van die week vind je in mijn overzicht van open-weight AI-modellen van oktober 2026.

Wat de twee releases bieden

NVIDIA bracht Nemotron 3.5 Super VL uit op 15 oktober 2026. StepFun publiceerde de Step 5 Preview-gewichten op dezelfde datum, na eerdere beschikbaarheid via de API. Het zijn twee verschillende verhalen: NVIDIA breidde zijn modelfamilie uit, terwijl StepFun een bestaand gehost model beschikbaar maakte voor zelfstandige implementatie met downloadbare gewichten.

Super VL combineert taal- en visuele verwerking. NVIDIA positioneert het voor documentanalyse, coderen, redeneren en het gebruik van tools. StepFun legt de nadruk op uitgebreid agent-werk, softwareontwikkeling en professionele taken. Beide ontwikkelaars adverteren met een lange context, maar die claims zijn vertrekpunten voor evaluatie en geen bewijs voor jouw specifieke workflow.

De modelkaart van StepFun vermeldt 600B, terwijl de metadata op Hugging Face 604B aangeeft. Het geadverteerde getal is nuttig om het model te identificeren, maar moet niet worden gezien als een exacte telling van elke opgeslagen tensor. Op vergelijkbare wijze beschrijven actieve parameters de berekening per token, niet de omvang van de volledige gewichten die een serveromgeving moet inladen.

Nemotron: visuele focus en hardware-opties

De documentatie van NVIDIA beschrijft een hybride architectuur die Mamba-2, attention en mixture-of-experts combineert met een vision encoder. De invoer accepteert tekst, afbeeldingen en video, met tekstuele uitvoer. NVIDIA levert trainingsmaterialen en recepten mee met de bredere release, wat ontwikkelaars handvatten geeft voor fijnslijpen en inferentie.

De NVFP4-documentatie noemt één DGX Spark, één H200, twee H100 GPU’s of één GB200 als implementatieopties. De BF16-kaart vermeldt vier H100 GPU’s of twee GB200-systemen. Deze voorbeelden gaan over verschillende precisieformaten en configuraties; veeg ze dus niet op één hoop als een eenduidige “minimale hardware-eis”.

Voor een documentassistent kan de visuele component waardevol zijn wanneer de invoer bestaat uit een gescande pagina, grafiek of screenshot. Mijn factuurtaak bevatte een uitgeschreven tekstbeschrijving, waardoor het correcte JSON-antwoord van Nemotron puur het resultaat was van tekstextractie. Ik heb geen OCR, videobegrip of navigatie binnen een visuele interface getest.

Houd Super VL bovendien gescheiden van de kleinere Bolt-modellen die tegelijkertijd zijn aangekondigd. Hardwareclaims voor een ander model binnen de NVIDIA Nemotron-familie gelden niet automatisch voor Super VL. Een bekende familienaam garandeert niet dat een checkpoint op een lokaal werkstation past.

Step 5 vereist aanzienlijk zwaardere infrastructuur

StepFun levert BF16- en FP8-checkpoints, en NVIDIA heeft tevens een NVFP4-versie gepubliceerd. De officiële implementatievoorbeelden van StepFun noemen vier B300 GPU’s of acht H200 GPU’s voor FP8. Voor BF16 gaat het om acht B300 GPU’s of zestien H200 GPU’s. Dat zijn forse configuraties, nog los van het beheer dat komt kijken bij het in de lucht houden van een productieomgeving.

De documentatie maakt nadrukkelijk onderscheid tussen het inladen van de gewichten en het toewijzen van voldoende geheugen voor lange contextverzoeken. Contextopslag en runtime-buffers vereisen extra capaciteit. Het verlagen van de contextlengte of de gelijktijdige verzoeken kan noodzakelijk zijn, zelfs als het checkpoint zelf in het VRAM past. De geadverteerde één miljoen tokens moet je dan ook zien als een eigenschap van geteste configuraties, niet als een vanzelfsprekendheid voor elke opstelling.

Voor teams die geïnteresseerd zijn in de agent-mogelijkheden van Step 5, zit de echte test in de complete workflow: de instructie correct interpreteren, geldige tool calls uitvoeren, herstellen van fouten en een bruikbaar eindresultaat leveren. Downloadbare gewichten maken die evaluatie mogelijk op eigen infrastructuur, maar garanderen op voorhand geen succes.

De licenties zijn niet gelijkwaardig

OpenMDW 1.1 verleent ruime rechten op het modelmateriaal. Bij herdistributie moeten de licentietekst en toepasselijke herkomstvermeldingen behouden blijven. De licentie legt onder die voorwaarden geen verplichtingen op aan de gegenereerde modeluitvoer, al blijven standaardbepalingen zoals het vervallen van rechten bij bepaalde juridische geschillen van kracht.

De StepFun Model License 1.0 vereist eveneens het behoud van vermeldingen en het documenteren van wijzigingen bij verspreiding. De tekst, gecontroleerd op 20 oktober 2026, bevat daarnaast duidelijke drempelwaarden:

• Commerciële producten die het model benutten en meer dan 100 miljoen maandelijks actieve gebruikers hebben of meer dan $20 miljoen aan omzet per kalendermaand genereren, moeten de aanduiding “Powered by StepFun AI” tonen in hun interface en documentatie (sectie 2(b)).
• Fabrikanten of merkhouders van hardwareapparaten (zoals telefoons, voertuigen, wearables of robots) hebben altijd een aparte commerciële licentie nodig voordat zij het model als apparaatfunctie leveren, ongeacht hun omzet (sectie 2(c)).
• Bedrijven die een model-as-a-service aanbieden, moeten een aparte commerciële licentie afsluiten zodra hun gezamenlijke omzet de $20 miljoen overschrijdt over een aaneengesloten periode van 12 maanden (sectie 2(c)).

Je kunt Step 5 dus niet beschrijven als een model zonder omzet- of gebruikersdrempels.

Dit onderscheid is essentieel voordat je een model kiest voor een commercieel product. Intern onderzoek, het verspreiden van aangepaste gewichten, het verkopen van modeltoegang via een API en het inbouwen in hardware zijn juridisch verschillende situaties. De StepFun-licentie stelt specifieke voorwaarden aan elk van deze toepassingen.

Wat de Poolse test aantoont

In mijn evaluatie op 19 oktober 2026 kregen beide modellen 12 korte opdrachten voorgelegd via de API, met temperature 0 en een limiet van 6.000 tokens voor redenering en antwoord gecombineerd. Nemotron leverde voor alle 12 taken een geaccepteerd antwoord (de volledige lijst staat in mijn test van vier open modellen in het Pools). Step leverde negen geaccepteerde antwoorden en viel drie keer stil met een leeg resultaat: bij de instructie voor herfst-opmaak, de vraag over bestuurlijke regio’s en de spellingcorrectie.

Elk mislukt verzoek van Step verbruikte exact 6.000 tokens. De langste aanvraag van Step duurde 230,1 seconden, tegenover een mediaan van 2,15 seconden. Nemotrons mediaan lag op 1,20 seconden en zijn langste verzoek nam 11,7 seconden in beslag. Dit zijn verstreken tijden gemeten via de API, mogelijk op verschillende backend-servers, en geen metingen van identieke lokale installaties.

De geregistreerde verbruikskosten bedroegen ongeveer $0,0022 voor de takenreeks van Nemotron en $0,0537 voor die van Step. Dit zijn afgeronde historische kosten van mijn meting. Ze geven geen officieel tariefoverzicht weer en voorspellen niet direct de kosten van complexe agent-taken. Wel laat het zien dat de lege antwoorden van Step het volledige tokenbudget opsleepten zonder bruikbare tekst terug te geven.

Bij de beoordeling heb ik één scoringsregel gecorrigeerd: de gebiedende wijs “Weź parasol” (“Neem een paraplu”) werd goedgekeurd als geldig alternatief voor de infinitief (“wziąć”) die het oorspronkelijke script verwachtte. De test accepteerde daarnaast lichte afwijkingen in uitvoeropmaak. De scores moeten dan ook worden geïnterpreteerd als inhoudelijk geaccepteerde taakantwoorden, niet als vlekkeloze naleving van elke afzonderlijke opmaakinstructie.

• Voor korte Poolse taken zoals deze behaalde Nemotron het sterkere resultaat.
• Voor visuele workflows moet je Nemotron vooraf testen op je eigen afbeeldingen en documenten.
• Voor agent-workflows met Step 5 is het raadzaam om de afronding van antwoorden te testen binnen realistische tokenbudgetten.
• Controleer bij lokale installatie altijd het exacte precisieformaat, de runtime en de bijbehorende licentievoorwaarden.

FAQ

Presteert Step 5 slecht in het Pools?

Dat toont deze test niet aan. Het toont aan dat het model binnen een vast tokenbudget drie keer vastliep in een redeneerlus en negen andere taken naar behoren voltooide. Een bredere testset met andere parameters kan andere resultaten opleveren.

Kan Nemotron Super VL op een consumenten-GPU draaien?

De genoemde specificaties zijn de officiële voorbeelden van NVIDIA voor Super VL. Die tonen geen ondersteuning aan voor een standaard consumentenkaart met 24 GB VRAM. Ga uit van de documentatie van het specifieke checkpoint en neem geen aannames over van kleinere Bolt-varianten.

Welk model is geschikter voor Engelstalige software?

Mijn test in het Pools biedt daarover geen uitsluitsel. Test representatieve Engelstalige prompts binnen jouw beoogde toepassing en weeg nauwkeurigheid, responstijd, uitvoerformaat en tokenkosten gezamenlijk af.

// lees verderMiniMax Music 3: lokaal draaien, licentie en prijzenAI-toolsStable Audio 3: prijzen, licentie en ComfyUIAI-toolsQwen-Image-2.1: ranking, tests op RTX 4090 en licentieBenchmarks