HELDER_
Benchmarks

Gemma 4 31B lokaal op RTX 4090: benchmarks, VRAM en prestaties

helder@ai:~$ cat news_1

› Gemma 4 31B van Google is het krachtigste dichte model met open gewichten dat nog volledig op een enkele RTX 4090 past.

helder@ai:~$ cat news_2

› We installeerden het via Ollama op ons testsysteem: het genereert ongeveer 42 tokens per seconde en scoorde 9,5 uit 10 in onze meertalige taaltests, maar het eist vrijwel de volledige 24 GB videogeheugen op en stelt zware eisen aan je opslag.

helder@ai:~$ cat news_3

› Dit is de eerste aflevering in onze reeks over lokale modellen op je eigen pc.Stand van zaken op 8 oktober 2026Model: gemma4:31b-it-qat in Ollama 0.40.1 (versie met quantization-aware training, bestand van 17,65 GB + 1,2 GB voor de beeldmodule).Licentie: Apache 2.0 - commercieel gebruik toegestaan.Snelheid: 40,7-43,4 tok/s bij genereren, circa 870-1240 tok/s bij promptverwerking.Videogeheugen: 19,2 GB volgens Ollama, piekbelasting op de hele kaart 24,0 GB (nvidia-smi).Taalprestaties: 9,5/10 in onze 5 testtaken (getest in het Pools).Downloadtijd: 40 min en 41 s.

helder@ai:~$ cat news_4

› Laadtijd vanaf usb-opslag: van 1 min 53 s tot 14 min 33 s.Waarom Gemma 4 31B als eerste aan de beurt isWe nemen een open model, starten het op een RTX 4090 (24 GB VRAM, Windows 11) en meten telkens dezelfde aspecten: installatie, laadtijd, inferentiesnelheid, geheugengebruik, taalvaardigheid en de licentievoorwaarden.

helder@ai:~$ open --full
Lees volledig

Gemma 4 31B lokaal op RTX 4090: benchmarks, VRAM en prestaties

Open artikel op helderte.nl