Fenêtre de contexte
Quantité de texte que le modèle « voit » simultanément. Fenêtre plus grande = vous pouvez coller des documents plus longs.
La fenêtre de contexte est la quantité maximale de texte (mesurée en tokens) que le modèle « voit » simultanément : votre prompt, les documents joints, la conversation précédente et sa propre réponse. Ce qui ne rentre pas, le modèle l'ignore tout simplement - d'où « l'oubli » du début des longues conversations. Les fenêtres actuelles atteignent des centaines de milliers, voire un million de tokens chez certains modèles, permettant d'intégrer un livre entier ou un dépôt de code. En pratique toutefois, la qualité du travail du modèle peut être inégale sur de très longs contextes - mieux vaut placer les informations clés au début ou à la fin du matériel.