بڑے کام میں سوچنے والے ٹوکنز: effort، کیپس، مرحلہ وار بجٹ

سوچنے والے ٹوکنز آؤٹ پٹ ٹوکنز کے طور پر بل کیے جاتے ہیں، اور وہ max_tokens میں شمار ہوتے ہیں چاہے آپ انہیں کبھی دیکھیں نہیں۔ لہٰذا کسی بڑے کام کا بل اس بات پر منحصر ہے کہ ماڈل کتنا سوچتا ہے، نہ کہ صرف اس کے نظر آنے والے جواب کی لمبائی پر۔ دو اہم لیورز آؤٹ پٹ کیپ اور کام کی تقسیم ہیں: بڑے پیمانے کے مرحلے کے لیے ایک سستا ماڈل، اور اسمبلی کے لیے صرف ایک زیادہ طاقتور۔

اگر آپ کا ایجنٹ دس منٹ تک چلا اور بل کام سے بڑا ہے، تو سب سے پہلے یہیں دیکھیں۔

بل پر سوچنے والا ٹوکن کیسا دکھتا ہے#

ایک کلاسیفائر لیں جو ہر تبصرے کے لیے keep یا drop کا جواب دیتا ہے۔ نظر آنے والا جواب ایک لفظ ہے؛ اس کے لیے تقریباً 20 آؤٹ پٹ ٹوکنز کا بجٹ رکھیں۔ فرض کریں ماڈل پہلے استدلال کرتا ہے اور اس میں 600 ٹوکنز خرچ کرتا ہے۔ آپ اسکرین پر 20 ٹوکنز دیکھتے ہیں اور 620 کا بل ادا کرتے ہیں۔

Anthropic کا effort صفحہ (5 نومبر 2026 کو چیک کیا گیا) اس بارے میں واضح ہے: سوچنا max_tokens میں شمار ہوتا ہے چاہے سوچ کا مواد واپس نہ کیا جائے، اور max_tokens کل آؤٹ پٹ پر ایک سخت حد ہے، سوچ کے علاوہ جوابی متن بھی۔ آؤٹ پٹ کی طرف ہی فی ٹوکن زیادہ قیمت ہے، اسی لیے یہ تکلیف دہ ہے۔

اسے 40,000 تبصروں سے ضرب دیں تو نظر نہ آنے والا حصہ انوائس کا زیادہ تر حصہ ہے۔ درخواست کے دونوں پہلوؤں کی بنیادی باتیں input vs output tokens میں دیکھیں۔

Effort: ایک ڈائل، بجٹ نہیں#

Anthropic کی Messages API output_config.effort کے ذریعے effort مقرر کرتی ہے۔ قدر نہ ہونے پر ماڈل کا ڈیفالٹ لاگو ہوتا ہے۔ سطحیں max، xhigh، high، medium اور low ہیں۔ زیادہ تر ماڈلز پر ڈیفالٹ high ہے؛ Claude Opus 5.5 اور Claude Haiku 5.5 کا ڈیفالٹ medium ہے۔

اسی صفحے کی تین تفصیلات ذہن میں رکھنے کے قابل ہیں:

• Effort ہر آؤٹ پٹ ٹوکن پر لاگو ہوتا ہے، سوچ کے ساتھ یا اس کے بغیر۔ کم effort کا مطلب کم اور مختصر ٹول کالز بھی ہے، جو ایجنٹس کے لیے اہم ہے۔
• low سادہ کاموں اور ذیلی ایجنٹس کے لیے موزوں ہے۔
• Effort ایک رویے کا اشارہ ہے، سخت ٹوکن بجٹ نہیں۔ یہ ماڈل کو ہلکا سا راغب کرتا ہے؛ کسی عدد کا وعدہ نہیں کرتا۔ سخت حد max_tokens ہے۔

تو effort وہ ڈائل ہے کہ ماڈل کتنی محنت کرتا ہے، اور آؤٹ پٹ کیپ باڑ ہے۔ آپ دونوں چاہتے ہیں جہاں دستیاب ہوں۔ سوچ کی زیادہ قیمت کی سادہ کہانی کے لیے ایک ابتدائی ورژن ہے: reasoning effort and thinking tokens explained۔

ایک حقیقی پائپ لائن: ایک ماڈل ہدایت دیتا ہے، دوسرا بڑا حصہ کرتا ہے#

Andrej Karpathy، AI محقق اور OpenAI کے شریک بانی، نے 31 اکتوبر 2026 کو اپنی HN ویڈیو پائپ لائن بیان کی (the post)۔ Claude Opus 5.5 Medium effort پر، جو اس کا ڈیفالٹ ہے، نے تمام Hacker News تبصرے ڈاؤن لوڈ کیے، انہیں تقریباً 40,000 تبصروں تک محدود کیا جو YouTube ویڈیو تجویز کرتے ہیں، اور 150 موضوعات پر محیط 2007 سے 2026 تک کی 6,454 ویڈیوز پر مشتمل ایک سائٹ بنائی۔ Sonnet نے Claude Code ورک فلو میں تبصروں پر چل کر سپیم فلٹر کیا اور تجاویز تلاش کیں۔ ان کے بیان کے مطابق اب پورا کام تقریباً دو گھنٹے لیتا ہے۔

پوسٹ میں نہ ٹوکن کی گنتی ہے نہ لاگت، لہٰذا قیمت پر نقل کرنے کے لیے کچھ نہیں۔ یہ جو دکھاتی ہے وہ شکل ہے: زیادہ طاقتور ماڈل میڈیم effort پر سب سے اوپر بیٹھا فیصلہ کرتا ہے کہ کیا بنانا ہے؛ ایک سستا ماڈل دہرائے جانے والے حصے کو گھسا دیتا ہے۔ نوٹ کریں کہ ٹوکنز کہاں جاتے ہیں۔ ہدایت دینا چند بڑے، نایاب مراحل ہیں۔ فلٹرنگ دسیوں ہزار چھوٹے، یکساں مراحل ہیں۔

یہی تقسیم ماڈلز کے کسی بھی جوڑے کے ساتھ کام کرتی ہے۔ اگر آپ کو خود فلٹر پرامپٹ چاہیے، تو وہ filtering 40K comments with an LLM میں ہے؛ یہ فیصلہ کرنے کے لیے کہ کون سی درخواست کس ماڈل کو جائے، model routing, cheap first دیکھیں۔

بڑے پیمانے کے مرحلے کا تخمینہ لگائیں#

یہ ہمارا اپنا مفروضہ ہے، Karpathy کے اعداد و شمار نہیں: 40,000 تبصرے، ہر ایک تقریباً 150 ان پٹ ٹوکنز (ہدایت جمع تبصرہ) اور ہر ایک تقریباً 20 آؤٹ پٹ ٹوکنز (ایک لیبل اور چند الفاظ)۔

• ان پٹ: 40,000 × 150 = 6,000,000 ٹوکنز
• آؤٹ پٹ: 40,000 × 20 = 800,000 ٹوکنز

DeepSeek-V4-Flash پر اس مرحلے کی لاگت $0.17 ہے۔ جدول ہر اس ماڈل پر یہی کام دکھاتا ہے جو ہم پیش کرتے ہیں؛ مجموعی طور پر، ان پٹ اور آؤٹ پٹ کو ملا کر، ہر ایک OpenRouter سے سستا ہے۔

اب ماڈل کو جواب دینے سے پہلے فی تبصرہ 600 ٹوکنز سوچنے دیں، تو فی آئٹم 620 آؤٹ پٹ ٹوکنز: 40,000 × 620 = 24,800,000 آؤٹ پٹ ٹوکنز۔ DeepSeek-V4-Flash پر وہی مرحلہ $2.57 بن جاتا ہے۔ وہی ان پٹ، اور اگر ماڈل فی تبصرہ 600 ٹوکنز سوچے تو آؤٹ پٹ کی طرف اکتیس گنا بڑھ جاتی ہے۔ یہ سوچ اس قابل ہے یا نہیں، یہ آپ کے اپنے eval کا فیصلہ ہے؛ ایک لفظ کے keep/drop کے لیے یہ پہلی چیز ہے جسے نچلی سطح پر یا کیپ کے ساتھ جانچنا چاہیے۔

اپنے اعداد و شمار کے ساتھ کھیلیں: فی درخواست ٹوکنز اور درخواستوں کی تعداد، اور کیلکولیٹر لائیو قیمتیں استعمال کرتا ہے۔

آج ہی کھینچے جا سکنے والے لیورز#

مختلف APIs مختلف سوچ کے کنٹرولز پیش کرتی ہیں، تو یہ ہیں وہ جو ہر جگہ کام کرتے ہیں: ایک سخت کیپ، مختصر جواب کی ہدایت اور مرحلہ وار تقسیم۔

CheapTokens پر بڑے پیمانے کے مرحلے کے لیے ایک کم سے کم درخواست۔ بیس URL https://api.cheaptokens.dev/v1 ہے اور ماڈل آئی ڈی ڈاکس سے مکمل والی ہے:

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
    "max_tokens": 1024,
    "messages": [
      {"role": "system", "content": "Reply with exactly one word: keep or drop."},
      {"role": "user", "content": "Comment: this talk on compilers changed how I think, youtube.com/watch?v=example"}
    ]
  }'

جواب میں usage.completion_tokens پڑھیں: وہ عدد درخواست کے لیے آپ کا آؤٹ پٹ بل ہے۔ کیپ سوچ اور نظر آنے والے جواب دونوں کو ایک ساتھ باڑ میں رکھتی ہے۔ اگر finish_reason length ہے اور مواد خالی ہے، تو کیپ جواب آنے سے پہلے خرچ ہو گئی: اسے بڑھائیں، یا مختصر جواب طلب کریں۔ چند تبصروں پر usage.completion_tokens چیک کریں، پھر کیپ کو حقیقی زیادہ سے زیادہ سے ذرا اوپر رکھیں۔ کیپ اور اسٹاپ سیکوئنس کی تفصیلات cut output tokens میں ہیں، اور جملے کے بیچ کٹنے کی وضاحت why an answer stops mid-sentence میں ہے۔

DeepSeek-V4-Flash فی جواب 32,768 آؤٹ پٹ ٹوکنز تک اجازت دیتا ہے، 380K context کے ساتھ، تو 1,024 کی کیپ ایک انتخاب ہے، حد نہیں۔ GLM-5.3-Flash (8,192 آؤٹ پٹ، 390K context) اور MiniMax-M2.7 (8,192 آؤٹ پٹ، 180K context) اسی نمونے میں فٹ ہوتے ہیں۔ ہر مرحلے کے لیے کیپ منتخب کریں۔

سب کچھ ایک صفحے پر دیکھنے کے لیے، لائیو قیمت کا جدول CheapTokens pricing پر ہے، اور درخواست کی فارمیٹ docs میں ہے۔

فی مرحلہ effort: ایک مختصر اصول#

بڑے پیمانے کے مرحلے پر کم سے شروع کریں اور ایک وقت میں ایک مرحلہ بڑھائیں۔ وہ عدد رکھیں جو آپ کے اپنے eval کے مطابق قابلِ قدر ہو، وہ نہیں جو سب سے محفوظ لگے۔ طاقتور ماڈل کو ایک چھوٹا، پہلے سے فلٹر شدہ سیٹ دیکھنا چاہیے؛ سستے کو باقی سب کچھ۔