Jetons, fenêtre de contexte, et comment choisir
Au sommaire, 8 sections
Pourquoi cette séance existe
Avant-hier, vous avez vu comment une machine apprend. Aujourd’hui, on regarde la famille d’outils que vous employez tous les jours, et on va au niveau de détail qui change vos décisions.
Trois raisons, et elles sont professionnelles.
Comprendre le coût. Ces outils se facturent au jeton. Sans savoir ce qu’est un jeton, un budget se signe à l’aveugle.
Comprendre les limites. La fenêtre de contexte, la date de coupure, la variabilité des réponses : ce sont trois propriétés mesurables, pas des défauts passagers.
Choisir un outil. Vous en aurez plusieurs sous la main et vous devrez dire lequel pour quoi, devant quelqu’un qui vous demandera pourquoi.
C’est aussi la dernière séance avant quatre mois de coupure. Ce qui est conceptuel résiste mieux qu’une procédure, et cette séance a été placée ici pour cette raison.
Ce que vous saurez à la fin de cette séance
- Expliquer ce qu’est un jeton, et calculer un ordre de grandeur de coût
- Dire ce qu’est une fenêtre de contexte, et ce qui se passe quand elle est pleine
- Comprendre pourquoi deux réponses à la même question diffèrent, et quand c’est un problème
- Comparer des outils sur des critères qui tiennent, et non sur leur réputation
1. Le jeton, et pourquoi il vous concerne
1.1 Ce qu’un modèle lit réellement
Un modèle ne lit ni des lettres ni des mots : il lit des jetons. Un jeton est un fragment de texte fréquent, souvent un mot court entier, souvent un morceau de mot long.
En français, l’ordre de grandeur usuel est d’environ un jeton pour trois quarts de mot, et cette proportion varie selon le texte : un texte technique, plein de noms propres et de sigles, se découpe en davantage de jetons qu’un texte courant.
C’est une approximation, et elle suffit à raisonner. Ce qui compte est de savoir que l’unité de facturation n’est ni le mot, ni le caractère.
1.2 Pourquoi cela change un budget
Les outils facturent à l’usage, en jetons, et ils facturent l’entrée et la sortie, souvent à des tarifs différents2.
Conséquence contre-intuitive : donner beaucoup de contexte coûte, même si la réponse est courte. Un document de vingt pages collé à chaque question se paie à chaque question.
C’est la raison économique de ce que la deuxième année a vu le 14 octobre : au lieu de tout donner, on retrouve le passage utile et on ne donne que lui.
1.3 Faire un ordre de grandeur, sans tableur
La méthode tient en trois nombres, et elle suffit à préparer une réunion :
- Combien de mots par requête, entrée et sortie confondues ?
- Divisé par trois quarts, cela donne les jetons.
- Multiplié par le nombre de requêtes par mois, puis par le tarif affiché.
Le résultat est faux à trente pour cent près, et c’est très bien : il vous dit si l’on parle de dizaines d’euros ou de dizaines de milliers, et c’est la seule chose que la réunion a besoin de savoir.
La méthode. Ne signez jamais un projet dont personne n’a fait ce calcul. Il prend cinq minutes, et il a déjà arrêté des projets à lui seul.
2. La fenêtre de contexte
2.1 Ce que c’est
La fenêtre de contexte est la quantité de texte que le modèle peut avoir sous les yeux en une fois : votre question, les documents fournis, et l’historique de la conversation.
Elle se mesure en jetons, elle varie beaucoup d’un modèle à l’autre, et elle est une limite dure.
2.2 Ce qui se passe quand elle est pleine
Deux comportements, selon les outils, et il faut savoir lequel vous avez :
L’oubli silencieux. Le début de la conversation sort de la fenêtre. Le modèle ne s’en aperçoit pas et ne vous prévient pas : il répond en ignorant ce que vous aviez dit une heure plus tôt.
Le résumé automatique. L’outil résume l’historique pour le faire tenir. C’est plus élégant, et cela perd de l’information sans le dire non plus.
Dans les deux cas, la conséquence pratique est la même, et elle est utile à savoir : dans une longue conversation, ce qui compte doit être répété, pas seulement dit au début.
2.3 Une fenêtre plus grande n’est pas toujours mieux
C’est le point qui surprend, et il a été vu en deuxième année sous un autre angle.
Un modèle noyé sous du texte retrouve moins bien ce qui se trouve au milieu qu’au début ou à la fin. Ce n’est pas une impression d’utilisateur : c’est un effet mesuré et publié, et il porte un nom1. Donner davantage de contexte peut donc dégrader la réponse, en plus de coûter plus cher.
La bonne pratique n’est pas de tout donner : c’est de donner ce qu’il faut.
Atelier 1, le calcul de coin de table
En binôme, quinze minutes de travail, dix de mise en commun.
Votre entreprise veut automatiser la rédaction des réponses aux avis clients.
- Estimez la longueur d’une requête : l’avis, la consigne, et la réponse produite. En mots.
- Convertissez en jetons.
- Estimez le volume mensuel : combien d’avis par mois ?
- Produisez un ordre de grandeur de coût mensuel, avec un tarif que vous choisissez et que vous écrivez.
- Concluez : est-ce un sujet de budget, ou une dépense négligeable ?
Le point 4 est le plus important : un ordre de grandeur sans son hypothèse de tarif n’est pas défendable.
3. Pourquoi deux réponses diffèrent
3.1 Ce n’est pas un défaut, c’est un réglage
Posez deux fois la même question, vous obtiendrez deux réponses différentes. Beaucoup y voient un dysfonctionnement. C’est un réglage, et il porte un nom que vous verrez dans les interfaces : la température.
À chaque étape, le modèle choisit le prochain jeton parmi plusieurs candidats probables. Une température basse le pousse à prendre le plus probable, presque toujours ; une température haute le laisse choisir plus librement.
3.2 Ce que cela implique dans votre travail
| Ce que vous faites | Ce qu’il vous faut |
|---|---|
| Extraire une information d’un document | La réponse la plus probable, toujours la même |
| Classer, trier, vérifier | La stabilité, sinon rien n’est reproductible |
| Rédiger une première version | Un peu de variété, sinon tout se ressemble |
| Chercher des idées | De la variété, franchement |
La conséquence est simple à retenir : ce qui doit être reproductible se règle bas, ce qui doit être varié se règle haut.
3.3 Ce qui rend une sortie reproductible, et ce qui ne le sera jamais
Même à température basse, deux exécutions peuvent différer : les modèles évoluent, les fournisseurs mettent à jour, et un même service peut router votre demande différemment.
Ne construisez donc jamais une chaîne de travail qui suppose une sortie identique au caractère près. Si vous avez besoin de cela, ce n’est pas un modèle de langage qu’il vous faut : c’est un programme.
4. Comparer des outils, sur des critères qui tiennent
4.1 Les critères qui ne tiennent pas
La réputation. Elle change tous les six mois et elle ne dit rien de votre usage.
Les classements de performance. Ils mesurent des tâches d’évaluation, rarement la vôtre. Un modèle premier d’un classement peut être mauvais sur vos documents.
La démonstration du commercial. Elle a été préparée. Demandez plutôt à tester sur vos propres cas.
4.2 Les six critères qui tiennent
| Critère | La question à poser |
|---|---|
| L’usage visé | Rédiger, analyser, coder, dialoguer ? Ce n’est pas le même choix |
| La fenêtre | Suffit-elle à vos documents habituels ? |
| Le coût réel | Sur votre volume, calculé, pas annoncé |
| La confidentialité | Où vont les données, combien de temps, servent-elles à entraîner ? |
| L’intégration | Se branche-t-il sur ce que vous employez déjà ? |
| La réversibilité | Que se passe-t-il si vous changez d’avis dans un an ? |
Le dernier est celui que personne ne pose, et c’est le plus coûteux à découvrir après coup. Une chaîne de production entièrement bâtie sur les particularités d’un outil ne se déplace pas.
4.3 La bonne méthode, et elle tient en une phrase
Testez vos trois cas les plus fréquents sur deux ou trois outils, le même jour, avec les mêmes entrées.
Une demi-journée suffit, et elle vaut tous les comparatifs publiés. Gardez les sorties : elles constituent votre référence, et elles serviront à retester dans six mois, quand les modèles auront changé.
Atelier 2, la grille de comparaison
En binôme, vingt minutes de travail, dix de mise en commun.
- Choisissez un cas réel de votre entreprise, celui que vous feriez le plus souvent.
- Écrivez l’entrée exacte que vous donneriez, la même pour tous les outils.
- Écrivez ce qui, dans la sortie, vous ferait dire qu’elle est bonne. Trois critères observables.
- Testez sur deux outils au moins, et notez les résultats dans votre grille.
- Concluez, et dites ce que vous ne pouvez pas conclure faute de temps.
Le point 3 se fait avant de tester. Écrit après, il se conforme à ce qu’on a obtenu.
5. Ce qui reste vrai quand tout change
5.1 Quatre choses qui n’ont pas bougé
Les outils changent vite. Ces quatre propriétés, elles, tiennent depuis le début et tiendront encore :
Il produit du vraisemblable. Sur les faits, il faut vérifier.
Il ne connaît pas votre entreprise. Sauf si vous lui donnez vos documents, et c’est un projet en soi.
Il ne calcule pas. Il rédige. Ce qui ressemble à un calcul dans une réponse est du texte.
Vous restez responsable. De ce qui sort sous votre nom, sans transfert possible.
5.2 Ce qui va probablement changer
Il est honnête de dire ce qu’on ne sait pas. Les tarifs baissent régulièrement, les fenêtres s’agrandissent, les outils s’intègrent davantage aux logiciels que vous employez.
Ce qui ne devrait pas changer, c’est le rapport entre le vraisemblable et le vrai : c’est une propriété du procédé, pas une limite technique en attente de correction.
5.3 Ce qu’on vous demandera en poste
Rarement de savoir comment cela marche. Presque toujours l’une de ces trois choses :
- Est-ce que ça vaut le coût ? Vous savez maintenant faire le calcul.
- Est-ce qu’on peut y aller ? Vous savez ce qu’il faut vérifier avant.
- Pourquoi ça a raté ? Vous savez où regarder.
Atelier 3, la note de cadrage
Individuellement, douze minutes d’écriture, huit de mise en commun.
Votre direction envisage de généraliser un outil d’IA générative à toute l’équipe marketing. Elle vous demande une note de cadrage d’une demi-page.
- Trois usages que vous autorisez, nommés précisément.
- Deux usages que vous interdisez, et pourquoi.
- Une règle de vérification : qui relit quoi, avant quoi.
- Un ordre de grandeur de coût, avec son hypothèse.
C’est la note que vous écrirez réellement dans votre premier poste, et elle se demande plus souvent qu’on ne croit.
6. Avant quatre mois de coupure
Nous nous revoyons le 9 février. C’est long, et la reprise sera substantielle : quarante-cinq minutes de remise en route, y compris technique.
D’ici là, deux choses, et elles prennent dix minutes chacune :
- Gardez vos sorties de comparaison. Elles seront votre référence en février, quand les modèles auront changé.
- Vérifiez que votre site local répond, une fois en janvier. Certains ne répondront plus, et il vaut mieux le découvrir avant la séance.
Sources
Les ordres de grandeur employés dans cette séance (un jeton pour environ trois quarts de mot) sont des approximations d’usage, volontairement présentées comme telles : elles suffisent au raisonnement et elles ne dépendent d’aucun fournisseur particulier. Séance vérifiée le 14 août 2026, date et horaires vérifiés sur administratif/previsionnel-heures/2026-2027/seances-detail.csv.
Notes
- L’effet est documenté par Nelson F. Liu, Kevin Lin, John Hewitt, Ashwin Paranjape, Michele Bevilacqua, Fabio Petroni et Percy Liang, « Lost in the Middle: How Language Models Use Long Contexts », 2023,
arxiv.org/abs/2307.03172. Les auteurs mesurent que la performance est la plus haute quand l’information utile se trouve au début ou à la fin du contexte, et se dégrade nettement quand elle est au milieu d’un contexte long. Vérifié le 14 août 2026. Revenir au texte - Le découpage en jetons et la grille tarifaire dépendent du fournisseur et du modèle : ils se relèvent dans la documentation du service employé, le jour de l’atelier. Aucun tarif n’est reproduit ici, il aurait vieilli avant la séance. Revenir au texte
À lire aussi sur le site
- IA, guide des usages 2026 : quel modèle pour quel usage, comparé métier par métier. À revérifier, cela bouge vite.
