Toplu bir işte düşünme token'ları: effort, üst sınırlar, aşama bütçeleri

Düşünme token'ları çıktı token'ı olarak faturalandırılır ve hiç görmeseniz bile max_tokens sınırına sayılır. Yani büyük bir işin faturası, modelin görünür yanıtının ne kadar uzun olduğuna değil, ne kadar düşündüğüne bağlıdır. Önemli olan iki kaldıraç, bir çıktı üst sınırı ve işin bölünmesidir: toplu geçiş için ucuz bir model, yalnızca birleştirme için daha güçlü bir model.

Ajanınız on dakika çalıştıysa ve fatura görevden büyükse, ilk bakılacak yer burasıdır.

Faturada bir düşünme token'ı nasıl görünür#

Her yorum için keep veya drop yanıtı veren bir sınıflandırıcı düşünün. Görünür yanıt tek bir kelimedir; bunun için yaklaşık 20 çıktı token'ı bütçeleyelim. Modelin önce akıl yürütüp bunun için 600 token harcadığını varsayalım. Ekranda 20 token görürsünüz ve 620 token ödersiniz.

Anthropic'in effort sayfası (5 Kasım 2026'da kontrol edildi) bu konuda açıktır: düşünme içeriği döndürülmese bile düşünme max_tokens sınırına sayılır ve max_tokens toplam çıktı (düşünme artı yanıt metni) üzerinde kesin bir sınırdır. Çıktı tarafı aynı zamanda token başına daha yüksek fiyatlanan taraftır, bu yüzden bu can yakar.

Bunu 40.000 yorumla çarpın, görünmeyen kısım faturanın çoğunu oluşturur. Bir isteğin iki tarafının temelleri için girdi ve çıktı token'ları sayfasına bakın.

Effort: bir bütçe değil, bir ayar düğmesi#

Anthropic'in Messages API'si effort'u output_config.effort ile ayarlar. Değer verilmezse modelin varsayılanı geçerlidir. Seviyeler max, xhigh, high, medium ve low şeklindedir. Çoğu modelde varsayılan high; Claude Opus 5.5 ve Claude Haiku 5.5 ise varsayılan olarak medium kullanır.

Aynı sayfadan akılda tutmaya değer üç ayrıntı:

• Effort, düşünme olsun olmasın her çıktı token'ına uygulanır. Daha düşük effort aynı zamanda daha az ve daha kısa araç çağrısı demektir; bu da ajanlar için önemlidir.
• low daha basit görevlere ve alt ajanlara uygundur.
• Effort bir davranış sinyalidir, katı bir token bütçesi değildir. Modeli yönlendirir; bir sayı vaat etmez. Kesin sınır max_tokens sınırıdır.

Yani effort, modelin ne kadar zorladığını belirleyen ayar düğmesidir, çıktı üst sınırı ise çittir. İkisini de mevcut oldukları yerde istersiniz. Düşünmenin neden daha pahalı olduğunun sade anlatımı için bir başlangıç sürümü var: akıl yürütme effort'u ve düşünme token'ları açıklandı.

Gerçek bir iş akışı: bir model yönetir, diğeri toplu işi yapar#

AI araştırmacısı ve OpenAI kurucu ortağı Andrej Karpathy, HN video iş akışını 31 Ekim 2026'da anlattı (gönderi). Varsayılanı olan Medium effort'taki Claude Opus 5.5, tüm Hacker News yorumlarını indirdi, bunları bir YouTube videosu öneren yaklaşık 40.000 yoruma indirdi ve 2007'den 2026'ya kadar 150 konuda 6.454 videodan oluşan bir site kurdu. Sonnet, bir Claude Code iş akışında yorumların üzerinden geçerek spam'i filtreledi ve önerileri buldu. Onun anlatımına göre tüm iş artık yaklaşık iki saat sürüyor.

Gönderi token sayısı ve maliyet vermiyor, dolayısıyla fiyat konusunda alıntılanacak bir şey yok. Gösterdiği şey şekil: daha güçlü model medium effort'ta en üstte oturur ve neyin kurulacağına karar verir; daha ucuz bir model tekrarlayan kısmı öğütür. Token'ların nereye gittiğine dikkat edin. Yönetmek birkaç büyük ve seyrek adımdır. Filtrelemek on binlerce küçük ve birbirinin aynısı adımdır.

Aynı bölünme herhangi bir model çiftiyle işe yarar. Filtre isteminin kendisini istiyorsanız 40K yorumu bir LLM ile filtrelemek sayfasında; hangi isteğin hangi modele gideceğine karar vermek için model yönlendirme, önce ucuz sayfasına bakın.

Toplu geçişi tahmin edin#

Bu bizim kendi varsayımımız, Karpathy'nin sayıları değil: 40.000 yorum, her biri yaklaşık 150 girdi token'ı (talimat artı yorum) ve her biri yaklaşık 20 çıktı token'ı (bir etiket ve birkaç kelime).

• Girdi: 40.000 × 150 = 6.000.000 token
• Çıktı: 40.000 × 20 = 800.000 token

DeepSeek-V4-Flash üzerinde bu geçiş $0.17 tutar. Tablo aynı iş yükünü sunduğumuz her modelde gösteriyor; girdi ve çıktı birlikte sayıldığında toplamda her biri OpenRouter'dan daha ucuz.

Şimdi modelin yanıt vermeden önce yorum başına 600 token düşünmesine izin verin, yani öğe başına 620 çıktı token'ı: 40.000 × 620 = 24.800.000 çıktı token'ı. DeepSeek-V4-Flash üzerinde aynı geçiş $2.57 olur. Girdi aynı ve model yorum başına 600 token düşünürse çıktı tarafı otuz bir kat büyür. Bu düşünmenin buna değip değmediğini kendi değerlendirmeniz söyleyecek; tek kelimelik bir tut/bırak kararı için ilk test edilecek şey, daha düşük bir seviye veya bir üst sınırdır.

Kendi sayılarınızla oynayın: istek başına token ve istek sayısı; hesaplayıcı canlı fiyatları kullanır.

Bugün çekebileceğiniz kaldıraçlar#

Farklı API'ler farklı düşünme kontrolleri sunar, bu yüzden her yerde işe yarayanlar şunlar: kesin bir üst sınır, kısa yanıt talimatı ve aşama bölünmesi.

CheapTokens üzerinde toplu geçiş için asgari bir istek. Temel URL https://api.cheaptokens.dev/v1 ve model kimliği belgelerdeki tam kimliktir:

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "max_tokens": 1024,
    "messages": [
      {"role": "system", "content": "Reply with exactly one word: keep or drop."},
      {"role": "user", "content": "Comment: this talk on compilers changed how I think, youtube.com/watch?v=example"}
    ]
  }'

Yanıttaki usage.completion_tokens değerini okuyun: bu sayı isteğin çıktı faturasıdır. Üst sınır, düşünme ile görünür yanıtı birlikte çevreler. finish_reason değeri length ise ve içerik boşsa, üst sınır yanıt görünmeden önce tükenmiştir: sınırı yükseltin veya daha kısa bir yanıt isteyin. Birkaç yorumda usage.completion_tokens değerini kontrol edin, sonra üst sınırı gerçek maksimumun hemen üstüne ayarlayın. Üst sınır ve durdurma dizisi ayrıntıları çıktı token'larını kes sayfasında, cümle ortasında kesilme ise bir yanıt neden cümle ortasında durur sayfasında açıklanıyor.

DeepSeek-V4-Flash, 380K bağlamla yanıt başına 32.768 çıktı token'ına kadar izin verir, yani 1.024'lük bir üst sınır bir sınır değil, bir tercihtir. GLM-5.3-Flash (8.192 çıktı, 390K bağlam) ve MiniMax-M2.7 (8.192 çıktı, 180K bağlam) aynı kalıba uyar. Üst sınırı aşama başına seçin.

Her şeyi tek sayfada görmek için canlı fiyat tablosu CheapTokens fiyatlandırma sayfasında, istek biçimi ise belgelerde.

Aşama başına effort: kısa bir kural#

Toplu geçişte düşük başlayın ve her seferinde bir aşamayı yükseltin. En güvenli görünen sayıyı değil, kendi değerlendirmenizin buna değer dediği sayıyı koruyun. Güçlü model küçük ve zaten filtrelenmiş bir küme görmeli; ucuz model ise geri kalan her şeyi görmeli.