Volver al blog

Optimización de costosGuía

Tokens de razonamiento en un trabajo masivo: effort, límites, presupuestos por etapa

Los tokens de razonamiento se facturan como salida y cuentan para max_tokens. Descubre cómo limitarlos y estimar un trabajo masivo de 40.000 elementos con un modelo barato.

Por CheapTokens TeamPublicado el 7 min de lectura

Portada: tokens de razonamiento facturados como salida en un trabajo masivo
En esta página
  1. Cómo se ve un token de razonamiento en la factura
  2. Effort: un dial, no un presupuesto
  3. Un pipeline real: un modelo dirige, otro hace el grueso
  4. Estima la pasada masiva
  5. Palancas que puedes accionar hoy
  6. Effort por etapa: una regla breve

Los tokens de razonamiento se facturan como tokens de salida y cuentan para max_tokens incluso cuando nunca los ves. Así que la factura de un trabajo grande depende de cuánto piensa el modelo, no solo de lo larga que sea su respuesta visible. Las dos palancas que importan son un límite de salida y una división del trabajo: un modelo barato para la pasada masiva, uno más potente solo para el ensamblaje.

Si tu agente estuvo ejecutándose diez minutos y la factura es mayor que la tarea, este es el primer sitio donde mirar.

Cómo se ve un token de razonamiento en la factura#

Toma un clasificador que responde keep o drop para cada comentario. La respuesta visible es una sola palabra; presupongamos unos 20 tokens de salida para ella. Digamos que el modelo razona primero y gasta 600 tokens en ello. Ves 20 tokens en pantalla y pagas 620.

La página de effort de Anthropic (consultada el 5 de noviembre de 2026) lo dice explícitamente: el razonamiento cuenta para max_tokens incluso cuando el contenido del razonamiento no se devuelve, y max_tokens es un límite estricto sobre la salida total, razonamiento más texto de respuesta. El lado de salida es además el que tiene un precio por token más alto, y por eso duele.

Adivina el número

Un modelo razona durante 600 tokens y luego escribe una respuesta de 20 tokens. ¿Cuántos tokens de salida se facturan?

Mostrar respuesta

Respuesta: 620

  1. El razonamiento y la respuesta son ambos salida; pagas por todo el flujo, visible o no.
Respuesta visible frente a salida facturada
Ejemplo: una respuesta visible de 20 tokens junto a 620 tokens de salida facturados (suposición con fines ilustrativos)

Multiplica eso por 40.000 comentarios y la parte invisible es la mayor parte de la factura. Para lo básico sobre los dos lados de una petición, consulta tokens de entrada frente a salida.

Effort: un dial, no un presupuesto#

La API Messages de Anthropic establece el effort con output_config.effort. Sin un valor, se aplica el predeterminado del modelo. Los niveles son max, xhigh, high, medium y low. El predeterminado es high en la mayoría de los modelos; Claude Opus 5.5 y Claude Haiku 5.5 usan medium por defecto.

Tres detalles de esa misma página conviene tenerlos en cuenta:

  • El effort se aplica a cada token de salida, con o sin razonamiento. Un effort más bajo también implica llamadas a herramientas menos numerosas y más concisas, lo cual importa para los agentes.
  • low encaja en tareas más simples y subagentes.
  • El effort es una señal de comportamiento, no un presupuesto estricto de tokens. Orienta al modelo; no garantiza una cifra. El límite estricto es max_tokens.

Así que el effort es el dial de cuánto se esfuerza el modelo, y el límite de salida es la valla. Quieres ambos donde estén disponibles. Para la explicación sencilla de por qué el razonamiento cuesta más, hay una versión para principiantes: reasoning effort y tokens de razonamiento explicados.

Un pipeline real: un modelo dirige, otro hace el grueso#

Andrej Karpathy, investigador de IA y cofundador de OpenAI, describió su pipeline de vídeos de HN el 31 de octubre de 2026 (la publicación). Claude Opus 5.5 con effort Medium, su valor predeterminado, descargó todos los comentarios de Hacker News, los redujo a unos 40.000 comentarios que recomiendan un vídeo de YouTube y construyó un sitio con 6.454 vídeos de 2007 a 2026 en 150 temas. Sonnet recorrió los comentarios en un flujo de trabajo de Claude Code para filtrar spam y encontrar las recomendaciones. Según su relato, todo el proceso ahora tarda unas dos horas.

La publicación no da recuentos de tokens ni coste, así que no hay nada que citar sobre el precio. Lo que sí muestra es la forma: el modelo más potente se sitúa arriba con effort medium y decide qué construir; un modelo más barato se encarga de la parte repetitiva. Fíjate en dónde van los tokens. Dirigir son unos pocos pasos grandes y poco frecuentes. Filtrar son decenas de miles de pasos diminutos e idénticos.

Tres etapas: pasada masiva, límite, ensamblaje
La forma de un trabajo dividido: un modelo barato para la pasada masiva, una respuesta con límite, un modelo más potente solo para el ensamblaje

La misma división funciona con cualquier par de modelos. Si quieres el prompt del filtro en sí, está en filtrar 40K comentarios con un LLM; para decidir qué petición va a qué modelo, consulta enrutamiento de modelos, primero lo barato.

Estima la pasada masiva#

Esta es nuestra propia suposición, no las cifras de Karpathy: 40.000 comentarios, unos 150 tokens de entrada cada uno (instrucción más comentario) y unos 20 tokens de salida cada uno (una etiqueta y unas pocas palabras).

  • Entrada: 40.000 × 150 = 6.000.000 tokens
  • Salida: 40.000 × 20 = 800.000 tokens

En DeepSeek-V4-Flash esa pasada cuesta $0.17. La tabla muestra la misma carga de trabajo en todos los modelos que servimos; en total, contando entrada y salida juntas, cada uno es más barato que OpenRouter.

Modelo Por solicitud 40.000 solicitudes OpenRouter, 40.000 solicitudes
GLM-5.3-Flash $0.0000038 $0.152 $0.267
DeepSeek-V4-Flash $0.0000043 $0.17 $0.532
MiniMax-M2.7 $0.000011 $0.42 $5.04

150 tokens de entrada y 20 tokens de salida por solicitud. Los precios por 1M de tokens son actuales y cambian junto con nuestras tarifas; la columna de OpenRouter muestra precios de referencia para la misma carga de trabajo.

Ahora deja que el modelo razone durante 600 tokens por comentario antes de responder, es decir, 620 tokens de salida por elemento: 40.000 × 620 = 24.800.000 tokens de salida. La misma pasada en DeepSeek-V4-Flash pasa a costar $2.57. La misma entrada, y si el modelo razona 600 tokens por comentario, el lado de salida crece treinta y un veces. Si ese razonamiento merece la pena lo dirá tu propia evaluación; para un mantener/descartar de una palabra es lo primero que hay que probar a un nivel más bajo o con un límite.

Juega con tus propias cifras: tokens por petición y número de peticiones, y la calculadora usa precios en vivo.

Calculadora de costos

La pasada masiva: 40.000 comentarios, etiquetas cortas

Tokens de entrada por solicitud: 150 · Tokens de salida por solicitud: 20 · Solicitudes por día: 40.000

ModeloPor díaPor mes
GLM-5.3-Flash$0.152$4.56
DeepSeek-V4-Flash$0.17$5.10
MiniMax-M2.7$0.42$12.60

Palancas que puedes accionar hoy#

Distintas APIs exponen distintos controles de razonamiento, así que aquí están los que funcionan en todas partes: un límite estricto, una instrucción de respuesta corta y una división por etapas.

Una petición mínima para la pasada masiva en CheapTokens. La URL base es https://api.cheaptokens.dev/v1 y el id del modelo es el completo de la documentación:

bash
curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "max_tokens": 1024,
    "messages": [
      {"role": "system", "content": "Reply with exactly one word: keep or drop."},
      {"role": "user", "content": "Comment: this talk on compilers changed how I think, youtube.com/watch?v=example"}
    ]
  }'

Lee usage.completion_tokens en la respuesta: ese número es tu factura de salida para la petición. El límite acota el razonamiento y la respuesta visible juntos. Si finish_reason es length y el contenido está vacío, el límite se agotó antes de que apareciera la respuesta: súbelo o pide una respuesta más corta. Comprueba usage.completion_tokens en unos cuantos comentarios y luego fija el límite justo por encima del máximo real. Los detalles del límite y las secuencias de parada están en recortar tokens de salida, y el corte a mitad de frase se explica en por qué una respuesta se corta a mitad de frase.

DeepSeek-V4-Flash permite hasta 32.768 tokens de salida por respuesta con un contexto de 380K, así que un límite de 1.024 es una elección, no una restricción. GLM-5.3-Flash (8.192 de salida, 390K de contexto) y MiniMax-M2.7 (8.192 de salida, 180K de contexto) encajan en el mismo patrón. Elige el límite por etapa.

Comparar

Ajustes del bucle del agente

Antes

Cada paso se ejecuta con el effort más alto y sin límite. El modelo escribe razonamientos largos antes de cada llamada a herramienta, y la salida facturada está muy por encima de la respuesta visible.

Después

Los subagentes y la clasificación simple se ejecutan con effort bajo o con una instrucción de respuesta corta y un límite de max_tokens. Solo el paso de ensamblaje recibe más margen, y solo si tus propias evaluaciones muestran una mejora.

Para verlo todo en una página, la tabla de precios en vivo está en precios de CheapTokens, y el formato de petición está en la documentación.

Effort por etapa: una regla breve#

Empieza bajo en la pasada masiva y sube una etapa cada vez. Quédate con la cifra que tu propia evaluación dice que merece la pena, no con la que suena más segura. El modelo potente debería ver un conjunto pequeño y ya filtrado; el barato debería ver todo lo demás.