Qu'est-ce que la fenêtre de contexte d'un modèle et pourquoi est-ce important ?

La fenêtre de contexte est la quantité totale de texte qu'un modèle peut prendre en compte en une fois : vos messages, les fichiers joints, la conversation précédente et la réponse en cours de rédaction. Elle se mesure en tokens, pas en mots, et fonctionne comme une mémoire de travail, distincte de ce que le modèle a appris pendant l'entraînement.

Elle compte pour trois raisons concrètes :

• La limite. Ce qui ne rentre pas doit être coupé ou raccourci. Les modèles les plus avancés affichent environ 1 million de tokens : GPT-6 et GPT-6.1 1 050 000, Gemini 4 Argon 1 048 576, Claude Opus, Sonnet et Haiku 5.5 1 000 000 (catalogue OpenRouter).
• Le coût. Dans l'API, chaque token envoyé est facturé : renvoyer un long historique à chaque requête rend chaque requête plus chère.
• La qualité. Plus de contexte n'est pas automatiquement mieux. La documentation d'Anthropic indique que la précision et le rappel se dégradent quand le nombre de tokens augmente (phénomène appelé « context rot ») : mieux vaut ne fournir que ce dont la tâche a besoin.

Les applications de chat comme claude.ai peuvent gérer la fenêtre de leur côté, ce qui explique en partie pourquoi une très longue conversation peut perdre de vue les premiers détails.