HELDER_
Handleidingen

Qwen3.6-27B op een RTX 4090: welke kwantisatie past

helder@ai:~$ cat news_1

› Qwen3.6-27B duikt steeds vaker op in discussies over lokale AI, als codeerassistent die op één RTX 4090 past.

helder@ai:~$ cat news_2

› Het is een open model van het Qwen-team van Alibaba onder Apache 2.0, dat commercieel gebruik, aanpassen en verder verspreiden toestaat.

helder@ai:~$ cat news_3

› Hieronder: wat het model is, waarom het bij lange context opvallend weinig geheugen vraagt en welke kwantisatie je op een kaart met 24 GB kiest.

helder@ai:~$ cat news_4

› De snelheid hebben we niet gemeten, dus tokens per seconde vind je hier niet - alleen bestandsgroottes, configuratiewaarden en onze eigen VRAM-berekening.

helder@ai:~$ open --full
Lees volledig

Qwen3.6-27B op een RTX 4090: welke kwantisatie past

Open artikel op helderte.nl