Qwen3.6-27B en local sur RTX 4090 : quelle version ?

👁 116 lectures

Qwen3.6-27B revient beaucoup ces jours-ci dans les discussions sur l’IA locale, au point qu’on pourrait le croire sorti en octobre. Ce n’est pas le cas : le dépôt Qwen/Qwen3.6-27B a été créé sur Hugging Face le 21 avril 2026, avec une dernière modification de fichier le 24 avril. Le modèle a six mois, compte 754 quantifications communautaires sous sa fiche et possède sa propre famille de tags dans Ollama. Ce qui est nouveau, c’est qu’il est de plus en plus utilisé comme assistant de code local. Précision : nous n’avons pas mesuré sa vitesse ; les chiffres de mémoire ci-dessous sont des calculs, pas des mesures.

Un modèle dense, sous licence Apache 2.0

Le modèle d’Alibaba est publié sous Apache 2.0 : usage commercial, modification et redistribution autorisés. Il compte 27 milliards de paramètres (27,8 milliards en BF16) et il est dense : tous les paramètres travaillent pour chaque token. Dans la même famille, Qwen3.6-35B-A3B est un MoE qui n’active qu’environ 3 milliards de paramètres sur 35 ; il peut être plus rapide, mais ses poids demandent plus de mémoire.

DeltaNet : pourquoi le cache KV reste petit

Les 64 couches sont organisées en 16 blocs. Chaque bloc enchaîne trois couches Gated DeltaNet et une couche d’attention classique. DeltaNet est une attention linéaire : elle garde un état de taille fixe au lieu de stocker chaque token. Résultat, seules 16 couches sur 64 ont un cache KV qui grossit avec le contexte. C’est ce qui rend les longs contextes abordables sur 24 Go.

Le modèle lit du texte, des images et de la vidéo. Son contexte natif est de 262 144 tokens, extensible à 1,01 million avec YaRN, Qwen prévenant que l’extension peut dégrader les résultats sur les textes courts. Qwen recommande au moins 128K de contexte pour préserver le raisonnement (thinking).

Les benchmarks de l’éditeur

Chiffres de la fiche du modèle, sans réplication indépendante à notre connaissance. D’abord face aux poids lourds :

Puis face aux modèles de taille comparable :

Lecture : en code agentique, le 27B rattrape son prédécesseur de 397B et égale Claude Opus 4.5 sur Terminal-Bench. Mais Opus 4.5 est une génération plus ancienne ; l’Opus 5.5 actuel ne figure pas dans le tableau. En culture générale (MMLU-Pro), rien ne bouge par rapport à la 3.5. Sur le code, l’écart avec Gemma 4 31B est énorme.

Le calcul de VRAM (notre calcul)

Ce qui suit est un calcul à partir des fichiers et de la configuration, pas une mesure. Les poids correspondent aux tailles réelles des GGUF d’unsloth/Qwen3.6-27B-GGUF, en Go décimaux (la carte affiche 24 Gio, soit environ 25,8 Go). Pour le cache KV : 16 couches d’attention complète, 4 têtes KV, dimension de tête 256, soit 64 Kio par token en FP16. Cela donne 2,15 Go à 32K, 8,59 Go à 128K et 17,18 Go au contexte complet de 262K. En q8_0, c’est à peu près la moitié : 1,14, 4,56 et 9,13 Go. L’état fixe de DeltaNet pèse environ 0,15 Go. Nous réservons 1,5 Go pour le pilote, le bureau Windows et les tampons de calcul (hypothèse), ce qui laisse environ 24,3 Go utilisables. Pour les différences entre formats, voir notre explication de la quantification GGUF.

Le module de vision (mmproj F16) ajoute 0,93 Go et ne sert que pour les images et les captures d’écran.

Notre recommandation

Q4_K_M ou UD-Q4_K_XL, avec 128K de contexte et un cache KV en q8_0. Cette combinaison respecte le conseil de Qwen sur le contexte pour le raisonnement et laisse quelques Go de marge. Q5_K_M convient aux tâches plus courtes. Q6_K revient à renoncer au long contexte, donc au travail d’agent sur un dépôt de code entier.

Réglages Ollama et llama.cpp

Dans Ollama, le tag par défaut qwen3.6:27b pèse 18-19 Go et qwen3.6:27b-q4_K_M 17 Go. Pour le long contexte, activez Flash Attention et le cache q8_0, puis fixez la longueur :

OLLAMA_FLASH_ATTENTION=1
OLLAMA_KV_CACHE_TYPE=q8_0
OLLAMA_CONTEXT_LENGTH=131072
ollama run qwen3.6:27b-q4_K_M

Avec llama.cpp :

llama-server -m Qwen3.6-27B-Q4_K_M.gguf -c 131072 -fa on -ctk q8_0 -ctv q8_0

Si vous hésitez entre les deux outils, notre comparatif Ollama vs LM Studio détaille les différences, et notre test de modèles locaux sur RTX 4090 donne d’autres points de repère.

FAQ

Qwen3.6-27B tourne-t-il sur une carte de 16 Go ?

Seulement en variante très compressée. Q3_K_M (13,59 Go) laisse peu de place au contexte ; UD-IQ2_M (10,85 Go) en laisse davantage, au prix de la qualité.

Peut-on le lancer en BF16 complet ?

La variante bf16 d’Ollama pèse 56 Go : impossible sur une seule carte grand public sans quantification.

Faut-il préférer le 35B-A3B ?

Il peut être plus rapide grâce à ses 3 milliards de paramètres actifs, mais ses poids demandent plus de mémoire que le 27B dense.

Quelle vitesse attendre ?

Nous ne l’avons pas mesurée et ne donnerons donc pas de chiffre.

Sources - consultées le 1er novembre 2026

• Hugging Face : fiche du modèle Qwen3.6-27B (consultée le 1er novembre 2026)
• Hugging Face API : date du dépôt, licence, paramètres (consultée le 1er novembre 2026)
• Hugging Face : config.json de Qwen3.6-27B (consultée le 1er novembre 2026)
• Hugging Face : unsloth/Qwen3.6-27B-GGUF, tailles des fichiers (consultée le 1er novembre 2026)
• Ollama : tags qwen3.6 (consultée le 1er novembre 2026)
• Gigazine : Qwen3.6-27B (23 avril 2026)

// lire la suiteVidéo d’influenceuse IA en local : 15 clips Kandinsky 6 et Wan 2.2GuidesInfluenceuse IA en local : 5 personnages sur 5 modèlesGuidesLTX-Video en local : test et mesures sur RTX 4090Guides

Kinetyra