Akıl yürütme eforu ve düşünme token'ları: düşünme neden daha pahalıdır

İsteğiniz tek bir olgusal soruydu. Yanıt üç satırdı. Çıktı sayacı binlerce token gösteriyor. Bu bir hata değil: yanıtlamadan önce birçok model gizli bir karalama defterinde düşünür ve bu düşünme token'ları çıktı token'ı olarak faturalandırılır. Efor ayarı bu düşünmenin ne kadarının gerçekleşeceğini belirler ve max_tokens buna yer bırakmalıdır, yoksa kesilmiş veya boş bir yanıt alırsınız.

Model yanıtlamadan önce ne yapar#

Bir sınav düşünün. Yanıtı hemen yazabilirsiniz ya da önce bir sayfa karalama yapabilirsiniz. Karalama genellikle zor bir problemde daha iyi bir sonuç verir, ancak kağıt bedava değildir. Akıl yürütme o karalamadır ve her şey gibi token olarak sayılır.

Anthropic'in genişletilmiş düşünme belgeleri (23 Ekim 2026'da kontrol edildi), düşünme token'larının faturalandırılan çıktı token'larının bir parçası olduğunu ve yanıtın kaç tane olduğunu söylediğini belirtir: usage.output_tokens_details.thinking_tokens. Bir yanıtın şu kullanım bloğuyla döndüğünü varsayalım (örnek sayılar):

"usage": {
  "input_tokens": 480,
  "output_tokens": 2150,
  "output_tokens_details": { "thinking_tokens": 1900 }
}

2.150 çıktı token'ı için faturalandırılırsınız. Düşünme bunların 1.900'ünü aldı, yani gerçekte okuduğunuz metin 2.150 − 1.900 = 250 token'dır. Düşünme metni size döndürülmese bile aynı durum geçerlidir: yine de sayılır. Girdi ve çıktı arasındaki farkın önce açıklanmasını istiyorsanız, girdi ve çıktı token'ları ile başlayın.

Efor: düşünmenin kadranı#

Claude'un API'sinde kadran output_config.effort'dir. Anthropic'in efor sayfası (23 Ekim 2026'da kontrol edildi) beş seviye listeler: low, medium, high, xhigh, max. Yeni başlayanlar için üç ayrıntı önemlidir:

• Her çıktı token'ını etkiler, yalnızca düşünmeyi değil: metin, araç çağrıları ve düşünme birlikte.
• Bu bir davranışsal sinyaldir, katı bir bütçe değil. Daha düşük efor, bir miktar yetenek pahasına daha az token anlamına gelir; düşük eforda Claude basit bir problemde düşünmeyi tamamen atlayabilir.
• Varsayılan, Claude Opus 5.5 ve Claude Haiku 5.5'te medium ve parametreyi destekleyen diğer çoğu modelde high'dir. Varsayılanı açıkça ayarlamak, onu atlamakla aynıdır.

Seviyeler model başına yeniden kalibre edilir, bu nedenle bir modeldeki high, başka bir modeldeki high ile aynı miktarda düşünme değildir ve her model her seviyeyi kabul etmez. Yayınlanan bir videoda birisi aynı hareketli grafik görevinde Claude Opus 5.5'in her efor seviyesini çalıştırdı ve resimleri karşılaştırdı. Daha fazla düşünmenin ne kazandırdığını görmek için iyi bir yoldur. Faturanızı söylemez, çünkü sizin göreviniz onlarınki değildir.

Basit bir soru için, efor düşürülmüş bir istek:

{
  "model": "claude-opus-5-5",
  "max_tokens": 4000,
  "output_config": { "effort": "low" },
  "messages": [
    { "role": "user", "content": "What is the capital of Australia?" }
  ]
}

Boş yanıt tuzağı: düşünme max_tokens'a sayılır#

İşte bu nasıl yanlış gider. İki cümlelik bir yanıt beklersiniz, bu yüzden max_tokens'i 300'e ayarlarsınız. Model düşünmeye başlar, 300'ü karalama defterine harcar, sınıra ulaşır ve durur. Boş bir yanıt veya kelimenin ortasında biten bir cümle alırsınız ve durma nedeni max_tokens der.

Belgeler açıktır: max_tokens, toplam çıktı üzerinde katı bir sınırdır, düşünme artı yanıt metni, ve içeriği döndürülmese bile düşünme sayılır. high efor ve üzerinde, Anthropic büyük bir değer ayarlamanızı söyler.

Pratikte:

1. İstediğiniz yanıtın uzunluğunu alın.
2. Düşünme için bolca yer ekleyin. Birkaç bin token, low üzerindeki her şey için makul bir başlangıçtır.
3. İlk çalıştırmalardan sonra durma nedenini kontrol edin. Hâlâ max_tokens diyorsa, sınırı yükseltin. Yanıt tamamsa, düşürebilirsiniz.

Kesilmenin kendisi, finish_reason ve bağlam penceresi ile birlikte, bir AI yanıtı neden cümle ortasında durur bölümünde ele alınmıştır.

Uzun akıl yürütme faturaya ne yapar#

Günde 2.000 bilet işleyen bir destek botu çalıştırdığınızı varsayalım. Her bilet yaklaşık 500 token giriştir. Kısa, doğrudan bir yanıt yaklaşık 400 token çıkıştır. Uzun gizli akıl yürütmeli aynı bilet yaklaşık 4.000 token çıkıştır. Bunlar örnek için varsayımlardır; kendi sayılarınız için bir isteğin kaç token kullandığı bölümüne bakın.

Günlük olarak bu, 2.000 × 500 = 1.000.000 girdi token'ı ve ya 2.000 × 400 = 800.000 çıktı token'ı ya da 2.000 × 4.000 = 8.000.000 çıktı token'ıdır. Bileti okuyan kişi her iki durumda da aynı iki satırı görür. Değişen tek şey çıktı hacmidir ve akıl yürütmenin şişirdiği taraf çıktıdır.

Aritmetik, gizli akıl yürütmeyi faturalandıran herhangi bir modelde aynıdır: çıktı token'ları × çıktı fiyatı. DeepSeek-V4-Flash için bu fiyat 1M çıktı token'ı başına $0.10'dir ve çıktı tarafı OpenRouter'ın referans fiyatından daha ucuzdur. Ayrıca 380K bağlamla aynı anda 32.768 token'a kadar yanıt verir, böylece büyük bir max_tokens sığar. Fiyatlar model başına sabittir, yoğun saat yoktur ve yukarıdaki tablo canlı fiyat listesinden yeniden hesaplanır. Tüm fiyatlar fiyatlandırma sayfasında; DeepSeek sayfası model ayrıntılarına sahiptir.

İşte kendinize gönderebileceğiniz bir istek. Bu düz bir özet görevidir, bu yüzden uzun akıl yürütmeye ihtiyacınız yoktur ve sınır bolca yer bırakır:

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "max_tokens": 2000,
    "messages": [
      {"role": "user", "content": "Summarize in one sentence: A token is a small piece of text that a model reads and writes, and APIs bill by the token."}
    ]
  }'

Yanıtta, usage.completion_tokens çıktı tarafında ödediğiniz şeydir ve finish_reason stop olmalıdır. length diyorsa, sınır yanıtı kesmiştir. Anahtarı alma ve ilk çağrı: belgeler.

Hangi iş için hangi efor#

• Bir olgu, tek satırlık özet, bir etiket. En düşük efor. Bu, makalenin başındaki durumdur: karalamaya ihtiyacınız yok.
• Günlük yazma, kısa bir açıklama, basit bir düzenleme. Model için varsayılan. Yalnızca yanıtların maliyetini gördükten sonra değiştirin.
• Zor bir hata, çok adımlı bir plan, bir matematik problemi. high veya üzeri ve büyük bir max_tokens. Burada ekstra düşünme amaçtır.

Emin değilseniz, aynı istemi iki seviyede çalıştırın, yanıtları karşılaştırın ve output_tokens'i karşılaştırın. Daha ucuz yanıt aynı derecede iyiyse, seviyenizi buldunuz.

Eski bir isteği taşıma: 400 hatası#

Eski kod, düşünmeyi bir token bütçesiyle kontrol ediyordu. Claude 4.7 ve sonraki modellerde (Opus 5.5, Sonnet 5.5, Haiku 5.5, Fable 5.1) bu form 400 hatasıyla reddedilir. Uyarlanabilir düşünmeye geçersiniz ve derinliği eforla ayarlarsınız:

// before: returns 400 on newer models
"thinking": { "type": "enabled", "budget_tokens": 8000 }

// after
"thinking": { "type": "adaptive" },
"output_config": { "effort": "medium" }

Bir tuzak daha: Opus 5.5'te uyarlanabilir düşünme her zaman açıktır ve thinking: { "type": "disabled" } her efor seviyesinde 400 döndürür. Haiku 5.5, high efor veya altında düşünmenin devre dışı bırakılmasına izin verir. Opus 5.5'te daha az düşünme istiyorsanız, kapatmak yerine eforu düşürün.

Ajanlar ve uzun sohbetler: bir seviye seçin ve onu koruyun#

İsteminiz önbelleğe alınmışsa, istekler arasında üst düzey eforu değiştirmek o konuşma için önbellek kesme noktalarını geçersiz kılar. Bir ajan döngüsü veya uzun bir sohbet için, önceden bir seviye seçin. Bazı modeller, önbelleği koruyan beta sürümünde mesaj başına efor sunar; temeller yerleştikten sonra buna bir göz atmaya değer. Uzun sohbetlerin ikinci bir maliyet sürücüsü vardır, uzun bir sohbet neden daha pahalıdır bölümünde ele alınmıştır.

Kendi isteğinizde deneyin#

1. Gerçek isteminizi bir kez gönderin ve usage'i okuyun: kaç çıktı token'ı ve bunların kaçı düşünme.
2. Eforu bir adım düşürün ve tekrar gönderin. Yanıtları ve sayıları karşılaştırın.
3. max_tokens'i istediğiniz yanıt artı düşünme için yere ayarlayın ve durma nedenini kontrol edin.

Ardından kendi token sayılarınızı fiyatlandırma sayfasındaki canlı fiyat tablosuna koyun ve aylık bir tahmininiz olur.