Wat is het contextvenster van een model en waarom is dat belangrijk?

Het contextvenster is de totale hoeveelheid tekst die een model in één keer kan meenemen: je berichten, bijlagen, het eerdere gesprek en het antwoord dat het aan het schrijven is. Het wordt gemeten in tokens, niet in woorden, en werkt als een werkgeheugen, los van wat het model tijdens de training heeft geleerd.

Het is belangrijk om drie praktische redenen:

• Grens. Wat niet past, moet worden ingekort of weggelaten. Huidige topmodellen noemen ongeveer 1 miljoen tokens: GPT-6 en GPT-6.1 1.050.000, Gemini 4 Argon 1.048.576, Claude Opus, Sonnet en Haiku 5.5 1.000.000 (catalogus van OpenRouter).
• Kosten. In de API betaal je voor elk invoertoken. Wie bij elk verzoek een lange geschiedenis meestuurt, maakt elk verzoek duurder.
• Kwaliteit. Meer context is niet vanzelf beter. Volgens de documentatie van Anthropic nemen nauwkeurigheid en geheugen af naarmate het aantal tokens groeit (daar „context rot” genoemd). Geef dus alleen mee wat de taak nodig heeft.

Chatapps zoals claude.ai kunnen het venster zelf beheren. Dat is een van de redenen waarom een heel lang gesprek details van het begin uit het oog kan verliezen.