› Wat is GGUF kwantisatie en welk formaat moet je kiezen?
› Q4_K_M vormt het praktische minimum, terwijl Q5_K_M en Q6_K vrijwel niet te onderscheiden zijn van het origineel en Q8_0 vooral nuttig is wanneer VRAM geen rol speelt.
› In mijn overzicht over lokale AI modellen leg ik de basisprincipes uit, maar hieronder zet ik alle harde metingen op een rij.
› Status per 17 oktober 2026Officiële GGUF-bestanden van Bielik v3.0 worden gepubliceerd door SpeakLeash op Hugging Face (organisatie speakleash).