Token di ragionamento in un lavoro di massa: effort, limiti, budget per fase

I token di ragionamento vengono fatturati come token di output e contano ai fini di max_tokens anche quando non li vedi mai. Quindi il costo di un lavoro impegnativo dipende da quanto ragiona il modello, non solo da quanto è lunga la sua risposta visibile. Le due leve che contano sono un limite all'output e una suddivisione del lavoro: un modello economico per la passata di massa, uno più potente solo per l'assemblaggio.

Se il tuo agente ha girato per dieci minuti e il conto è più grande del compito, questo è il primo posto da guardare.

Come appare un token di ragionamento in fattura#

Prendi un classificatore che risponde keep o drop per ogni commento. La risposta visibile è una sola parola; mettiamo in budget circa 20 token di output per essa. Supponi che il modello ragioni prima e spenda 600 token per farlo. Sullo schermo vedi 20 token e ne paghi 620.

La pagina sull'effort di Anthropic (consultata il 5 novembre 2026) è esplicita in merito: il ragionamento conta ai fini di max_tokens anche quando il contenuto del ragionamento non viene restituito, e max_tokens è un limite rigido sull'output totale, ragionamento più testo della risposta. Il lato dell'output è anche quello con il prezzo per token più alto, ed è per questo che la cosa fa male.

Moltiplica per 40.000 commenti e la parte invisibile diventa la maggior parte della fattura. Per le basi sui due lati di una richiesta, vedi token di input vs output.

Effort: una manopola, non un budget#

L'API Messages di Anthropic imposta l'effort con output_config.effort. Senza un valore, si applica il default del modello. I livelli sono max, xhigh, high, medium e low. Il default è high sulla maggior parte dei modelli; Claude Opus 5.5 e Claude Haiku 5.5 hanno come default medium.

Tre dettagli dalla stessa pagina vale la pena tenerli a mente:

• L'effort si applica a ogni token di output, con o senza ragionamento. Un effort più basso significa anche chiamate agli strumenti meno numerose e più concise, il che conta per gli agenti.
• low si adatta a compiti più semplici e ai subagenti.
• L'effort è un segnale comportamentale, non un budget rigido di token. Spinge il modello; non promette un numero. Il limite rigido è max_tokens.

Quindi l'effort è la manopola per quanto duramente ci prova il modello, e il limite all'output è la recinzione. Vuoi entrambi dove sono disponibili. Per la spiegazione semplice del perché il ragionamento costa di più, c'è una versione per principianti: reasoning effort e token di ragionamento spiegati.

Una pipeline reale: un modello dirige, un altro fa il grosso#

Andrej Karpathy, ricercatore AI e co-fondatore di OpenAI, ha descritto la sua pipeline video per HN il 31 ottobre 2026 (il post). Claude Opus 5.5 a effort Medium, il suo default, ha scaricato tutti i commenti di Hacker News, li ha ridotti a circa 40.000 commenti che consigliano un video di YouTube e ha costruito un sito con 6.454 video dal 2007 al 2026 su 150 argomenti. Sonnet ha passato in rassegna i commenti in un workflow di Claude Code per filtrare lo spam e trovare i consigli. Secondo il suo resoconto, oggi l'intera cosa richiede circa due ore.

Il post non fornisce conteggi di token né costi, quindi non c'è nulla da citare sul prezzo. Quello che mostra è la forma: il modello più potente sta in cima a effort medio e decide cosa costruire; un modello più economico macina la parte ripetitiva. Nota dove vanno i token. Dirigere è fatto di pochi passi grandi e rari. Filtrare è fatto di decine di migliaia di passi minuscoli e identici.

La stessa suddivisione funziona con qualsiasi coppia di modelli. Se vuoi il prompt di filtro stesso, è in filtrare 40K commenti con un LLM; per decidere quale richiesta va a quale modello, vedi model routing, prima il più economico.

Stima la passata di massa#

Ecco una nostra ipotesi, non i numeri di Karpathy: 40.000 commenti, circa 150 token di input ciascuno (istruzione più commento) e circa 20 token di output ciascuno (un'etichetta e qualche parola).

• Input: 40.000 × 150 = 6.000.000 token
• Output: 40.000 × 20 = 800.000 token

Su DeepSeek-V4-Flash quella passata costa $0.17. La tabella mostra lo stesso carico di lavoro su ogni modello che serviamo; in totale, contando insieme input e output, ognuno è più economico di OpenRouter.

Ora lascia che il modello ragioni per 600 token per commento prima di rispondere, quindi 620 token di output per elemento: 40.000 × 620 = 24.800.000 token di output. La stessa passata su DeepSeek-V4-Flash diventa $2.57. Stesso input, e se il modello ragiona per 600 token per commento, il lato dell'output cresce di trentuno volte. Se quel ragionamento valga la pena lo deve dire la tua eval; per un keep/drop di una parola è la prima cosa da testare a un livello più basso o con un limite.

Gioca con i tuoi numeri: token per richiesta e numero di richieste, e il calcolatore usa i prezzi live.

Leve che puoi azionare oggi#

API diverse espongono controlli sul ragionamento diversi, quindi ecco quelli che funzionano ovunque: un limite rigido, un'istruzione di risposta breve e una suddivisione in fasi.

Una richiesta minima per la passata di massa su CheapTokens. L'URL di base è https://api.cheaptokens.dev/v1 e l'id del modello è quello completo dalla documentazione:

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "max_tokens": 1024,
    "messages": [
      {"role": "system", "content": "Reply with exactly one word: keep or drop."},
      {"role": "user", "content": "Comment: this talk on compilers changed how I think, youtube.com/watch?v=example"}
    ]
  }'

Leggi usage.completion_tokens nella risposta: quel numero è il tuo conto di output per la richiesta. Il limite recinta insieme ragionamento e risposta visibile. Se finish_reason è length e il contenuto è vuoto, il limite è stato esaurito prima che comparisse la risposta: alzalo, o chiedi una risposta più breve. Controlla usage.completion_tokens su alcuni commenti, poi imposta il limite appena sopra il massimo reale. I dettagli su limite e sequenza di stop sono in tagliare i token di output, e il taglio a metà frase è spiegato in perché una risposta si interrompe a metà frase.

DeepSeek-V4-Flash consente fino a 32.768 token di output per risposta con un contesto di 380K, quindi un limite di 1.024 è una scelta, non un vincolo. GLM-5.3-Flash (8.192 output, contesto 390K) e MiniMax-M2.7 (8.192 output, contesto 180K) seguono lo stesso schema. Scegli il limite per fase.

Per vedere tutto su una pagina, la tabella dei prezzi live è su prezzi CheapTokens, e il formato della richiesta è nella documentazione.

Effort per fase: una regola breve#

Parti basso sulla passata di massa e alza una fase alla volta. Tieni il numero che la tua eval dice che vale la pena, non quello che sembra più sicuro. Il modello potente dovrebbe vedere un insieme piccolo e già filtrato; quello economico dovrebbe vedere tutto il resto.