Les bases · Couche 4
Jetons (tokens) et fenêtre de contexte
Le modèle lit et écrit en jetons, des morceaux de mots ; sa fenêtre de contexte fixe combien il peut en traiter à la fois.
Pour se le représenterLa fenêtre de contexte, c’est le plan de travail du modèle : tout ce qui doit servir à la réponse (consigne, documents, historique de la conversation) doit y tenir. Plus il est encombré, plus le modèle risque de ne pas voir la pièce utile.
Une direction juridique charge d’un coup un contrat-cadre et ses douze avenants dans un assistant. Le tout tient dans la fenêtre, mais la réponse oublie une clause modifiée par le septième avenant, noyée au milieu. L’équipe change de méthode : elle interroge le modèle avenant par avenant, puis lui fait consolider les résultats. Les réponses sont plus courtes, moins coûteuses et plus faciles à vérifier.
Tout ce qui entre dans la fenêtre de contexte d’un modèle hébergé est transmis à son fournisseur : c’est un traitement de données, à encadrer par contrat dès que des données personnelles y figurent (UE · RGPD, art. 28). Le principe de minimisation s’applique : n’y placer que ce que la tâche exige (UE · RGPD, art. 5). Les contextes envoyés peuvent être conservés dans des journaux, chez vous ou chez le fournisseur ; leur durée de conservation et leur protection relèvent de la sécurité du traitement (UE · RGPD, art. 32).
« Quelle fenêtre de contexte votre outil utilise-t-il réellement, que se passe-t-il quand nos documents la dépassent, et combien de temps conservez-vous ce que nous y envoyons ? »
Parce que le modèle ne voit pas des mots, mais des fragments issus d’un découpage automatique. C’est aussi l’unité de facturation de la plupart des fournisseurs, en entrée comme en sortie.
Environ 500 pages pour 200 000 jetons, selon une estimation d’Anthropic (États-Unis · Anthropic, septembre 2024). L’ordre de grandeur varie selon la langue, la mise en page et les tableaux.
Pas forcément. Sélectionner les passages utiles, par exemple avec un RAG, donne souvent une réponse plus juste, plus rapide et moins chère que tout charger.
Fiche pédagogique, pas un avis juridique. À jour au 29 octobre 2026.