Tokens de raciocínio em um trabalho em massa: effort, limites, orçamentos por estágio

Os tokens de raciocínio são cobrados como tokens de saída e contam para max_tokens mesmo quando você nunca os vê. Assim, a conta de um trabalho grande depende de quanto o modelo pensa, não apenas de quão longa é sua resposta visível. As duas alavancas que importam são um limite de saída e uma divisão do trabalho: um modelo barato para a passagem em massa, um mais forte apenas para a montagem.

Se o seu agente rodou por dez minutos e a conta é maior que a tarefa, este é o primeiro lugar a olhar.

Como um token de raciocínio aparece na conta#

Pegue um classificador que responde keep ou drop para cada comentário. A resposta visível é uma única palavra; vamos orçar cerca de 20 tokens de saída para ela. Digamos que o modelo raciocine primeiro e gaste 600 tokens nisso. Você vê 20 tokens na tela e paga por 620.

A página de effort da Anthropic (verificada em 5 de novembro de 2026) é explícita sobre isso: o raciocínio conta para max_tokens mesmo quando o conteúdo do raciocínio não é retornado, e max_tokens é um limite rígido para a saída total, raciocínio mais texto da resposta. O lado da saída também é o lado com preço mais alto por token, e é por isso que isso dói.

Multiplique isso por 40.000 comentários e a parte invisível é a maior parte da fatura. Para o básico sobre os dois lados de uma requisição, veja input vs output tokens.

Effort: um botão, não um orçamento#

A Messages API da Anthropic define o effort com output_config.effort. Sem um valor, aplica-se o padrão do modelo. Os níveis são max, xhigh, high, medium e low. O padrão é high na maioria dos modelos; Claude Opus 5.5 e Claude Haiku 5.5 usam medium por padrão.

Três detalhes da mesma página vale a pena ter em mente:

• O effort se aplica a cada token de saída, com ou sem raciocínio. Effort menor também significa chamadas de ferramentas menos numerosas e mais concisas, o que importa para agentes.
• low serve para tarefas mais simples e subagentes.
• Effort é um sinal comportamental, não um orçamento estrito de tokens. Ele induz o modelo; não promete um número. O limite rígido é max_tokens.

Então effort é o botão de quão duro o modelo tenta, e o limite de saída é a cerca. Você quer os dois onde eles estiverem disponíveis. Para a explicação simples de por que o raciocínio custa mais, há uma versão para iniciantes: reasoning effort and thinking tokens explained.

Um pipeline real: um modelo dirige, outro faz o grosso#

Andrej Karpathy, pesquisador de IA e cofundador da OpenAI, descreveu seu pipeline de vídeos do HN em 31 de outubro de 2026 (o post). Claude Opus 5.5 em effort Medium, seu padrão, baixou todos os comentários do Hacker News, reduziu-os a cerca de 40.000 comentários que recomendam um vídeo do YouTube e construiu um site com 6.454 vídeos de 2007 a 2026 em 150 tópicos. O Sonnet passou pelos comentários em um fluxo de trabalho do Claude Code para filtrar spam e encontrar as recomendações. Segundo o relato dele, tudo isso leva cerca de duas horas agora.

O post não dá contagens de tokens nem custo, então não há nada a citar sobre preço. O que ele mostra é a forma: o modelo mais forte fica no topo em effort médio e decide o que construir; um modelo mais barato processa a parte repetitiva. Note para onde vão os tokens. Dirigir são alguns passos grandes e raros. Filtrar são dezenas de milhares de passos minúsculos e idênticos.

A mesma divisão funciona com qualquer par de modelos. Se você quer o prompt de filtro em si, ele está em filtering 40K comments with an LLM; para decidir qual requisição vai para qual modelo, veja model routing, cheap first.

Estime a passagem em massa#

Aqui está nossa própria suposição, não os números do Karpathy: 40.000 comentários, cerca de 150 tokens de entrada cada (instrução mais comentário) e cerca de 20 tokens de saída cada (um rótulo e algumas palavras).

• Entrada: 40.000 × 150 = 6.000.000 tokens
• Saída: 40.000 × 20 = 800.000 tokens

No DeepSeek-V4-Flash essa passagem custa $0.17. A tabela mostra a mesma carga de trabalho em todos os modelos que servimos; no total, com entrada e saída contadas juntas, cada um é mais barato que o OpenRouter.

Agora deixe o modelo raciocinar por 600 tokens por comentário antes de responder, ou seja, 620 tokens de saída por item: 40.000 × 620 = 24.800.000 tokens de saída. A mesma passagem no DeepSeek-V4-Flash passa a custar $2.57. Mesma entrada, e se o modelo raciocina 600 tokens por comentário, o lado da saída cresce trinta e uma vezes. Se esse raciocínio vale a pena é para a sua própria avaliação dizer; para um manter/descartar de uma palavra, é a primeira coisa a testar em um nível mais baixo ou com um limite.

Brinque com seus próprios números: tokens por requisição e número de requisições, e a calculadora usa preços ao vivo.

Alavancas que você pode puxar hoje#

APIs diferentes expõem controles de raciocínio diferentes, então aqui estão os que funcionam em todos os lugares: um limite rígido, uma instrução de resposta curta e uma divisão em estágios.

Uma requisição mínima para a passagem em massa no CheapTokens. A URL base é https://api.cheaptokens.dev/v1 e o id do modelo é o completo da documentação:

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "max_tokens": 1024,
    "messages": [
      {"role": "system", "content": "Reply with exactly one word: keep or drop."},
      {"role": "user", "content": "Comment: this talk on compilers changed how I think, youtube.com/watch?v=example"}
    ]
  }'

Leia usage.completion_tokens na resposta: esse número é a sua conta de saída da requisição. O limite cerca o raciocínio e a resposta visível juntos. Se finish_reason for length e o conteúdo estiver vazio, o limite foi gasto antes de a resposta aparecer: aumente-o, ou peça uma resposta mais curta. Verifique usage.completion_tokens em alguns comentários, depois defina o limite logo acima do máximo real. Os detalhes de limite e sequência de parada estão em cut output tokens, e o corte no meio da frase é explicado em why an answer stops mid-sentence.

O DeepSeek-V4-Flash permite até 32.768 tokens de saída por resposta com um contexto de 380K, então um limite de 1.024 é uma escolha, não um limite. GLM-5.3-Flash (8.192 de saída, contexto de 390K) e MiniMax-M2.7 (8.192 de saída, contexto de 180K) seguem o mesmo padrão. Escolha o limite por estágio.

Para ver tudo em uma página, a tabela de preços ao vivo está em CheapTokens pricing, e o formato da requisição está na docs.

Effort por estágio: uma regra curta#

Comece baixo na passagem em massa e aumente um estágio por vez. Mantenha o número que a sua própria avaliação diz valer a pena, não o que parece mais seguro. O modelo forte deve ver um conjunto pequeno e já filtrado; o barato deve ver todo o resto.