Tokens de réflexion dans une tâche de masse : effort, plafonds, budgets par étape

Les tokens de réflexion sont facturés comme des tokens de sortie et comptent dans max_tokens même lorsque vous ne les voyez jamais. La facture d'une grosse tâche dépend donc de la quantité de réflexion du modèle, et pas seulement de la longueur de sa réponse visible. Les deux leviers qui comptent sont un plafond de sortie et un découpage de la tâche : un modèle bon marché pour la passe de masse, un modèle plus fort uniquement pour l'assemblage.

Si votre agent a tourné dix minutes et que la facture dépasse la tâche, c'est le premier endroit à regarder.

À quoi ressemble un token de réflexion sur la facture#

Prenez un classifieur qui répond keep ou drop pour chaque commentaire. La réponse visible est un seul mot ; prévoyons environ 20 tokens de sortie pour elle. Disons que le modèle raisonne d'abord et dépense 600 tokens pour cela. Vous voyez 20 tokens à l'écran et vous payez pour 620.

La page d'Anthropic sur l'effort (consultée le 5 novembre 2026) est explicite : la réflexion compte dans max_tokens même lorsque le contenu de réflexion n'est pas renvoyé, et max_tokens est une limite stricte sur la sortie totale, réflexion plus texte de réponse. Le côté sortie est aussi celui facturé plus cher par token, d'où le problème.

Multipliez cela par 40 000 commentaires et la partie invisible constitue l'essentiel de la facture. Pour les bases des deux côtés d'une requête, voir tokens d'entrée vs de sortie.

L'effort : un réglage, pas un budget#

L'API Messages d'Anthropic définit l'effort avec output_config.effort. Sans valeur, la valeur par défaut du modèle s'applique. Les niveaux sont max, xhigh, high, medium et low. La valeur par défaut est high sur la plupart des modèles ; Claude Opus 5.5 et Claude Haiku 5.5 ont medium par défaut.

Trois détails de la même page méritent d'être gardés en tête :

• L'effort s'applique à chaque token de sortie, avec ou sans réflexion. Un effort plus faible signifie aussi des appels d'outils moins nombreux et plus concis, ce qui compte pour les agents.
• low convient aux tâches simples et aux sous-agents.
• L'effort est un signal comportemental, pas un budget strict de tokens. Il oriente le modèle ; il ne garantit pas un nombre. La limite stricte est max_tokens.

L'effort est donc le réglage de l'intensité avec laquelle le modèle essaie, et le plafond de sortie est la barrière. Vous voulez les deux là où ils sont disponibles. Pour l'explication simple de la raison pour laquelle la réflexion coûte plus cher, il existe une version débutant : effort de raisonnement et tokens de réflexion expliqués.

Un vrai pipeline : un modèle dirige, un autre fait le gros du travail#

Andrej Karpathy, chercheur en IA et cofondateur d'OpenAI, a décrit son pipeline vidéo HN le 31 octobre 2026 (le post). Claude Opus 5.5 à effort Medium, sa valeur par défaut, a téléchargé tous les commentaires de Hacker News, les a réduits à environ 40 000 commentaires recommandant une vidéo YouTube, et a construit un site avec 6 454 vidéos de 2007 à 2026 sur 150 sujets. Sonnet a parcouru les commentaires dans un workflow Claude Code pour filtrer le spam et trouver les recommandations. Selon lui, l'ensemble prend désormais environ deux heures.

Le post ne donne ni nombre de tokens ni coût, il n'y a donc rien à citer sur le prix. Ce qu'il montre, c'est la forme : le modèle le plus fort se place en haut à effort moyen et décide quoi construire ; un modèle moins cher absorbe la partie répétitive. Notez où vont les tokens. Diriger, c'est quelques grandes étapes rares. Filtrer, c'est des dizaines de milliers de petites étapes identiques.

Le même découpage fonctionne avec n'importe quelle paire de modèles. Si vous voulez le prompt de filtrage lui-même, il est dans filtrer 40K commentaires avec un LLM ; pour décider quelle requête va à quel modèle, voir routage de modèles, le moins cher d'abord.

Estimer la passe de masse#

Voici notre propre hypothèse, pas les chiffres de Karpathy : 40 000 commentaires, environ 150 tokens d'entrée chacun (instruction plus commentaire) et environ 20 tokens de sortie chacun (un label et quelques mots).

• Entrée : 40 000 × 150 = 6 000 000 tokens
• Sortie : 40 000 × 20 = 800 000 tokens

Sur DeepSeek-V4-Flash, cette passe coûte $0.17. Le tableau montre la même charge de travail sur chaque modèle que nous servons ; au total, entrée et sortie comptées ensemble, chacun est moins cher qu'OpenRouter.

Maintenant, laissez le modèle réfléchir pendant 600 tokens par commentaire avant de répondre, soit 620 tokens de sortie par élément : 40 000 × 620 = 24 800 000 tokens de sortie. La même passe sur DeepSeek-V4-Flash devient $2.57. Même entrée, et si le modèle réfléchit 600 tokens par commentaire, le côté sortie est multiplié par trente et un. Savoir si cette réflexion en vaut la peine revient à votre propre évaluation ; pour un garder/rejeter en un mot, c'est la première chose à tester à un niveau inférieur ou avec un plafond.

Jouez avec vos propres chiffres : tokens par requête et nombre de requêtes, et le calculateur utilise les prix en direct.

Les leviers que vous pouvez actionner dès aujourd'hui#

Les différentes API exposent différents contrôles de réflexion, voici donc ceux qui fonctionnent partout : un plafond strict, une instruction de réponse courte et un découpage en étapes.

Une requête minimale pour la passe de masse sur CheapTokens. L'URL de base est https://api.cheaptokens.dev/v1 et l'identifiant du modèle est l'identifiant complet de la documentation :

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "max_tokens": 1024,
    "messages": [
      {"role": "system", "content": "Reply with exactly one word: keep or drop."},
      {"role": "user", "content": "Comment: this talk on compilers changed how I think, youtube.com/watch?v=example"}
    ]
  }'

Lisez usage.completion_tokens dans la réponse : ce nombre est votre facture de sortie pour la requête. Le plafond encadre ensemble la réflexion et la réponse visible. Si finish_reason vaut length et que le contenu est vide, le plafond a été épuisé avant l'apparition de la réponse : augmentez-le, ou demandez une réponse plus courte. Vérifiez usage.completion_tokens sur quelques commentaires, puis fixez le plafond juste au-dessus du maximum réel. Les détails sur le plafond et les séquences d'arrêt sont dans réduire les tokens de sortie, et la coupure en milieu de phrase est expliquée dans pourquoi une réponse s'arrête en milieu de phrase.

DeepSeek-V4-Flash autorise jusqu'à 32 768 tokens de sortie par réponse avec un contexte de 380K, donc un plafond de 1 024 est un choix, pas une limite. GLM-5.3-Flash (8 192 en sortie, contexte de 390K) et MiniMax-M2.7 (8 192 en sortie, contexte de 180K) suivent le même schéma. Choisissez le plafond par étape.

Pour voir l'ensemble sur une seule page, le tableau des prix en direct est sur tarifs CheapTokens, et le format des requêtes est dans la documentation.

Effort par étape : une règle courte#

Commencez bas sur la passe de masse et augmentez une étape à la fois. Gardez le chiffre que votre propre évaluation juge rentable, pas celui qui semble le plus sûr. Le modèle fort doit voir un petit ensemble déjà filtré ; le modèle bon marché doit voir tout le reste.