Thinking tokens ในงานจำนวนมาก: effort, เพดาน, งบประมาณต่อขั้นตอน

Thinking tokens ถูกคิดค่าใช้จ่ายเป็น output tokens และนับรวมใน max_tokens แม้คุณจะไม่เคยเห็นมันก็ตาม ดังนั้นค่าใช้จ่ายของงานใหญ่จึงขึ้นอยู่กับว่าโมเดลคิดมากแค่ไหน ไม่ใช่แค่ความยาวของคำตอบที่มองเห็นเท่านั้น คันโยกสองตัวที่สำคัญคือเพดาน output และการแบ่งงาน: โมเดลราคาถูกสำหรับรอบใหญ่ โมเดลที่แข็งแกร่งกว่าสำหรับการประกอบเท่านั้น

ถ้า agent ของคุณรันสิบนาทีแล้วค่าใช้จ่ายมากกว่างาน นี่คือที่แรกที่ควรดู

Thinking token หน้าตาเป็นอย่างไรบนใบเสร็จ#

ลองดู classifier ที่ตอบ keep หรือ drop สำหรับแต่ละคอมเมนต์ คำตอบที่มองเห็นคือคำเดียว ตั้งงบประมาณ output ไว้ประมาณ 20 tokens สำหรับมัน สมมติว่าโมเดลคิดเหตุผลก่อนและใช้ 600 tokens ในการทำเช่นนั้น คุณเห็น 20 tokens บนหน้าจอและจ่ายสำหรับ 620

หน้า effort ของ Anthropic (ตรวจสอบเมื่อ 5 พฤศจิกายน 2026) ระบุชัดเจน: thinking นับรวมใน max_tokens แม้เนื้อหา thinking จะไม่ถูกส่งกลับมา และ max_tokens เป็นขีดจำกัดแข็งของ output ทั้งหมด ทั้ง thinking และข้อความตอบกลับ ฝั่ง output ยังเป็นฝั่งที่ราคาต่อ token สูงกว่า ซึ่งเป็นเหตุผลว่าทำไมสิ่งนี้จึงเจ็บ

คูณด้วย 40,000 คอมเมนต์ แล้วส่วนที่มองไม่เห็นก็กลายเป็นค่าใช้จ่ายส่วนใหญ่ของใบเสร็จ สำหรับพื้นฐานของสองฝั่งของ request ดู input vs output tokens

Effort: ปุ่มหมุน ไม่ใช่งบประมาณ#

Messages API ของ Anthropic ตั้งค่า effort ด้วย output_config.effort หากไม่มีค่า ค่าเริ่มต้นของโมเดลจะถูกใช้ ระดับต่าง ๆ คือ max, xhigh, high, medium และ low ค่าเริ่มต้นคือ high บนโมเดลส่วนใหญ่; Claude Opus 5.5 และ Claude Haiku 5.5 ใช้ค่าเริ่มต้นเป็น medium

รายละเอียดสามข้อจากหน้าเดียวกันที่ควรจำไว้:

• Effort มีผลกับ output token ทุกตัว ไม่ว่าจะมี thinking หรือไม่ก็ตาม Effort ที่ต่ำลงยังหมายถึงการเรียกเครื่องมือที่น้อยลงและกระชับขึ้น ซึ่งสำคัญสำหรับ agent
• low เหมาะกับงานที่ง่ายกว่าและ subagent
• Effort เป็นสัญญาณเชิงพฤติกรรม ไม่ใช่งบประมาณ token ที่เข้มงวด มันผลักดันโมเดล ไม่ได้รับประกันตัวเลข ขีดจำกัดแข็งคือ max_tokens

ดังนั้น effort คือปุ่มหมุนสำหรับว่าโมเดลพยายามมากแค่ไหน และเพดาน output คือรั้ว คุณต้องการทั้งสองอย่างในที่ที่มีให้ใช้ สำหรับเรื่องราวพื้นฐานว่าทำไม thinking จึงมีค่าใช้จ่ายมากกว่า มีเวอร์ชันสำหรับผู้เริ่มต้น: reasoning effort and thinking tokens explained

Pipeline จริง: โมเดลหนึ่งกำกับ อีกโมเดลทำงานจำนวนมาก#

Andrej Karpathy นักวิจัย AI และผู้ร่วมก่อตั้ง OpenAI อธิบาย pipeline วิดีโอ HN ของเขาเมื่อ 31 ตุลาคม 2026 (โพสต์) Claude Opus 5.5 ที่ effort ระดับ Medium ซึ่งเป็นค่าเริ่มต้น ดาวน์โหลดคอมเมนต์ Hacker News ทั้งหมด กรองให้เหลือประมาณ 40,000 คอมเมนต์ที่แนะนำวิดีโอ YouTube และสร้างไซต์ที่มี 6,454 วิดีโอตั้งแต่ปี 2007 ถึง 2026 ครอบคลุม 150 หัวข้อ Sonnet รันบนคอมเมนต์ใน workflow ของ Claude Code เพื่อกรองสแปมและค้นหาคำแนะนำ ตามที่เขากล่าว ตอนนี้ทั้งหมดใช้เวลาประมาณสองชั่วโมง

โพสต์ไม่ได้ให้จำนวน token หรือค่าใช้จ่าย ดังนั้นจึงไม่มีอะไรจะอ้างอิงเรื่องราคา สิ่งที่มันแสดงให้เห็นคือรูปร่าง: โมเดลที่แข็งแกร่งกว่าอยู่บนสุดที่ effort ระดับกลางและตัดสินใจว่าจะสร้างอะไร; โมเดลที่ถูกกว่าบดขยี้ส่วนที่ซ้ำซาก สังเกตว่า tokens ไปที่ไหน การกำกับคือไม่กี่ขั้นตอนใหญ่ที่เกิดขึ้นไม่บ่อย การกรองคือหลายหมื่นขั้นตอนเล็ก ๆ ที่เหมือนกัน

การแบ่งแบบเดียวกันใช้ได้กับโมเดลคู่ใดก็ได้ หากคุณต้องการ prompt ตัวกรองเอง มันอยู่ใน filtering 40K comments with an LLM; สำหรับการตัดสินใจว่า request ใดไปที่โมเดลใด ดู model routing, cheap first

ประมาณการรอบใหญ่#

นี่คือสมมติฐานของเราเอง ไม่ใช่ตัวเลขของ Karpathy: 40,000 คอมเมนต์ ประมาณ 150 input tokens ต่ออัน (คำสั่งบวกคอมเมนต์) และประมาณ 20 output tokens ต่ออัน (ป้ายกำกับและไม่กี่คำ)

• Input: 40,000 × 150 = 6,000,000 tokens
• Output: 40,000 × 20 = 800,000 tokens

บน DeepSeek-V4-Flash รอบนั้นมีค่าใช้จ่าย $0.17 ตารางแสดง workload เดียวกันบนทุกโมเดลที่เราให้บริการ; โดยรวม เมื่อนับ input และ output รวมกัน แต่ละตัวถูกกว่า OpenRouter

ตอนนี้ให้โมเดลคิด 600 tokens ต่อคอมเมนต์ก่อนตอบ ดังนั้น 620 output tokens ต่อรายการ: 40,000 × 620 = 24,800,000 output tokens รอบเดียวกันบน DeepSeek-V4-Flash กลายเป็น $2.57 input เดียวกัน และถ้าโมเดลคิด 600 tokens ต่อคอมเมนต์ ฝั่ง output จะโตขึ้นสามสิบเอ็ดเท่า ว่า thinking นั้นคุ้มหรือไม่เป็นเรื่องที่ eval ของคุณเองต้องบอก; สำหรับการเก็บ/ทิ้งคำเดียว นี่คือสิ่งแรกที่ควรทดสอบในระดับที่ต่ำลงหรือด้วยเพดาน

ลองเล่นกับตัวเลขของคุณเอง: tokens ต่อ request และจำนวน request และเครื่องคำนวณใช้ราคาสด

คันโยกที่คุณดึงได้วันนี้#

API ต่าง ๆ เปิดเผยการควบคุม thinking ต่างกัน ดังนั้นนี่คือสิ่งที่ใช้ได้ทุกที่: เพดานแข็ง คำสั่งให้ตอบสั้น และการแบ่งขั้นตอน

request ขั้นต่ำสำหรับรอบใหญ่บน CheapTokens base URL คือ https://api.cheaptokens.dev/v1 และ model id คือตัวเต็มจากเอกสาร:

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "max_tokens": 1024,
    "messages": [
      {"role": "system", "content": "Reply with exactly one word: keep or drop."},
      {"role": "user", "content": "Comment: this talk on compilers changed how I think, youtube.com/watch?v=example"}
    ]
  }'

อ่าน usage.completion_tokens ใน response: ตัวเลขนั้นคือค่าใช้จ่าย output ของคุณสำหรับ request นั้น เพดานกั้นทั้ง thinking และคำตอบที่มองเห็นไว้ด้วยกัน หาก finish_reason เป็น length และเนื้อหาว่างเปล่า แสดงว่าเพดานถูกใช้หมดก่อนคำตอบจะปรากฏ: เพิ่มมัน หรือขอคำตอบที่สั้นลง ตรวจสอบ usage.completion_tokens บนคอมเมนต์สองสามอัน แล้วตั้งเพดานให้สูงกว่าค่าสูงสุดจริงเล็กน้อย รายละเอียดเพดานและ stop sequence อยู่ใน cut output tokens และการตัดกลางประโยคอธิบายไว้ใน why an answer stops mid-sentence

DeepSeek-V4-Flash อนุญาต output สูงสุด 32,768 tokens ต่อคำตอบด้วย context 380K ดังนั้นเพดาน 1,024 จึงเป็นทางเลือก ไม่ใช่ขีดจำกัด GLM-5.3-Flash (output 8,192, context 390K) และ MiniMax-M2.7 (output 8,192, context 180K) เข้ากับรูปแบบเดียวกัน เลือกเพดานตามขั้นตอน

หากต้องการดูทั้งหมดในหน้าเดียว ตารางราคาสดอยู่ที่ CheapTokens pricing และรูปแบบ request อยู่ใน docs

Effort ต่อขั้นตอน: กฎสั้น ๆ#

เริ่มต่ำในรอบใหญ่และเพิ่มทีละขั้นตอน เก็บตัวเลขที่ eval ของคุณเองบอกว่าคุ้ม ไม่ใช่ตัวเลขที่ฟังดูปลอดภัยที่สุด โมเดลที่แข็งแกร่งควรเห็นชุดที่เล็กและถูกกรองแล้ว ส่วนโมเดลราคาถูกควรเห็นทุกอย่างที่เหลือ