AI ایجنٹ اتنے ٹوکن کیوں استعمال کرتے ہیں (20-قدم کی مثال)

آپ ایجنٹ سے ایک سوال پوچھتے ہیں، وہ چند منٹ کام کرتا ہے، اور استعمال کا صفحہ لاکھوں ٹوکن دکھاتا ہے۔ کچھ ٹوٹا نہیں ہے۔ ایجنٹ ایک لوپ ہے، اور لوپ کا ہر موڑ اب تک کہی گئی ہر چیز (ٹول کی فہرست، تاریخ، جو کچھ ٹولز نے واپس کیا) کو ان پٹ ٹوکن کے طور پر دوبارہ بھیجتا ہے۔ جو جواب وہ لکھتا ہے وہ بہت چھوٹا ہوتا ہے۔ جو وہ بار بار پڑھتا ہے وہ نہیں۔

ایک تصویر میں ایجنٹ کیا ہے#

چیٹ ماڈل ایک بار جواب دیتا ہے۔ ایجنٹ وہی ماڈل ہے جو ٹولز کے ساتھ ایک لوپ کے اندر ہوتا ہے: فائل پڑھنا، ویب پر تلاش کرنا، کمانڈ چلانا۔ اور ماڈل کالز کے درمیان کچھ یاد نہیں رکھتا۔ ایک ایسے معاون کا تصور کریں جو ہر بار فون بند کرنے پر سب کچھ بھول جاتا ہے: جب بھی وہ واپس کال کرتا ہے، آپ نوٹس اوپر سے پڑھتے ہیں، پھر ایک لائن شامل کرتے ہیں۔ API اسی طرح کام کرتا ہے۔

Anthropic کی ٹول-استعمال دستاویزات (26 اکتوبر 2026 کو چیک کی گئی) لوپ کو اس طرح بیان کرتی ہیں:

1. آپ کی ایپ صارف کا پیغام اور ٹولز کی فہرست بھیجتی ہے۔
2. ماڈل stop_reason: "tool_use" اور ایک tool_use بلاک کے ساتھ جواب دیتا ہے: کون سا ٹول، کون سے دلائل کے ساتھ۔
3. آپ کی ایپ ٹول چلاتی ہے اور دوسری درخواست بھیجتی ہے۔ اس میں پہلے کے پیغامات، ماڈل کی ٹول کال، ایک tool_result بلاک اور وہی ٹولز کی فہرست شامل ہوتی ہے۔
4. ماڈل جواب دیتا ہے، یا ایک اور ٹول مانگتا ہے، اور لوپ پھر چلتا ہے۔

اسی صفحے پر کہا گیا ہے کہ ٹول-استعمال کی درخواستوں کا بل کل بھیجے گئے ان پٹ پر ہوتا ہے، بشمول ٹولز پیرامیٹر، اور آؤٹ پٹ بھی۔ لہٰذا مرحلہ 3 کبھی "صرف نیا حصہ" نہیں ہوتا: یہ پوری گفتگو دوبارہ ہوتی ہے۔

Request 1  tools + system + task
Request 2  tools + system + task + call 1 + result 1
Request 3  tools + system + task + call 1 + result 1 + call 2 + result 2
...

یہ وہی میکانزم ہے جو لمبی چیٹ زیادہ مہنگی کیوں ہوتی ہے میں ہے، بس تیز تر۔ چیٹ آپ کے ٹائپ کرنے پر ایک پیغام سے بڑھتی ہے۔ ایجنٹ ہر قدم پر دو بلاکس سے بڑھتا ہے، اور کوئی کچھ ٹائپ نہیں کرتا۔

ہر قدم پر تین چیزیں ساتھ چلتی ہیں#

ٹول کی فہرست۔ ہر ٹول کے نام، تفصیلات اور پیرامیٹر اسکیماز ہر درخواست میں جاتے ہیں، چاہے ماڈل اس موڑ پر کوئی بھی استعمال نہ کرے۔ دستاویزات ایک چھوٹا سا اضافہ کرتی ہیں: ٹولز آن ہونے پر، API اپنا ٹول-استعمال پرامپٹ شامل کرتا ہے، Claude Sonnet 5.5، Opus 5.5 اور Haiku 5.5 پر 286 ٹوکن، اور دیگر ماڈلز کے دیگر شمار ہوتے ہیں۔

تاریخ۔ آپ کا کام، ماڈل کی پہلے کی ٹول کالز، اس کے نوٹس۔

ٹول آؤٹ پٹ۔ یہ چپکے والا ہے۔ ایک فائل جو ایجنٹ نے پڑھی، تلاش کے نتائج کا ایک صفحہ، ایک ٹیسٹ لاگ: ایک بار جب یہ تاریخ میں آ جاتا ہے، تو ہر بعد کے قدم پر اس کی دوبارہ ادائیگی ہوتی ہے۔

ایک ٹوکن متن کا ایک چھوٹا ٹکڑا ہے، تقریباً ایک مختصر لفظ یا اس کا حصہ، اور ان تینوں میں سے ہر ایک ان میں گنا جاتا ہے۔

20-قدم کا رن، گنا ہوا#

فرض کریں آپ تین ٹولز (فائل پڑھنا، تلاش، ٹیسٹ چلانا) کے ساتھ ایک چھوٹا کوڈنگ ایجنٹ چلاتے ہیں اور اسے ایک کام دیتے ہیں جس میں 20 قدم لگتے ہیں۔ یہ مفروضات لیں:

• ٹول تعریفات: 1,500 ٹوکن، سسٹم پرامپٹ: 500، آپ کا کام: 200، لہٰذا ہر درخواست 2,200 ٹوکن سے شروع ہوتی ہے؛
• ہر قدم پر ماڈل 150 ٹوکن کی ٹول کال لکھتا ہے، اور ٹول 800 ٹوکن واپس کرتا ہے؛
• دونوں تاریخ میں شامل ہوتے ہیں، لہٰذا ہر قدم اگلی درخواست میں 950 ٹوکن کا اضافہ کرتا ہے۔

رن کا کل حاصل کرنے کے لیے، تمام 20 درخواستوں کو جمع کریں۔ 2,200 کی بنیاد 20 بار بھیجی جاتی ہے، اور راؤنڈز بعد کے مراحل میں منتقل ہوتے ہیں: مرحلہ 1 کوئی نہیں لے جاتا، مرحلہ 2 ایک، اور اسی طرح 19 تک، جو کل 190 راؤنڈز ہیں۔

20 × 2,200 = 44,000

950 × 190 = 180,500

44,000 + 180,500 = 224,500 ان پٹ ٹوکن، اور 20 × 150 = 3,000 آؤٹ پٹ ٹوکن۔

ایجنٹ نے 3,000 ٹوکن لکھے اور 224,500 پڑھے۔ آؤٹ پٹ ٹوکن کی قیمت ان پٹ ٹوکن سے زیادہ ہوتی ہے (دیکھیں ان پٹ بمقابلہ آؤٹ پٹ ٹوکن)، لیکن وہ اتنے کم ہوتے ہیں کہ ان پٹ کی طرف ہی بل طے کرتی ہے۔ یہاں موجودہ قیمتوں پر وہ رن ہے:

DeepSeek-V4-Flash پر ایسا ایک رن $0.0037 بنتا ہے، GLM-5.3-Flash پر $0.0046۔ سو رنز 22,450,000 ان پٹ اور 300,000 آؤٹ پٹ ٹوکن ہیں: DeepSeek-V4-Flash پر $0.367۔ اوپر کا جدول ان پٹ اور آؤٹ پٹ کو ملا کر گنتا ہے، اور مجموعی طور پر وہاں کے ماڈلز OpenRouter سے سستے نکلتے ہیں۔

قدموں کی گنتی نظر سے زیادہ اہم ہے۔ انہی مفروضات کے ساتھ 5-قدم کا رن:

5 × 2,200 = 11,000

950 × 10 = 9,500

11,000 + 9,500 = 20,500 ان پٹ ٹوکن۔ چار گنا قدموں نے تقریباً گیارہ گنا ان پٹ دیا، کیونکہ ہر نیا قدم تمام پرانے بھی دوبارہ پڑھتا ہے۔

کہاں کاٹیں: چار عادات#

ایک ٹول کا نتیجہ بچانے کی سب سے آسان جگہ ہے۔ فرض کریں مرحلہ 3 پر ایک ٹیسٹ رن 4,000-ٹوکن کا لاگ واپس کرتا ہے۔ پھر اسے آنے والی 17 درخواستیں دوبارہ بھیجتی ہیں:

• پہلے: 4,000 × 17 = 68,000 ان پٹ ٹوکن اس ایک لاگ سے لے جائے گئے؛
• بعد میں، اگر ٹول صرف 40 متعلقہ لائنیں واپس کرے (تقریباً 400 ٹوکن): 400 × 17 = 6,800۔

وہی کام، وہی جواب، اس ایک نتیجے سے ان پٹ کا دسواں حصہ۔ یہ چار عادات دیتا ہے:

• ٹولز سے کم واپس کریں۔ غلطی کے آس پاس کی لائنیں، پورا لاگ نہیں؛ فنکشن، پوری فائل نہیں۔ اس پر ایک طویل رائے ٹول آؤٹ پٹ کو سیاق و سباق سے باہر رکھنا میں ہے۔
• ایجنٹ کو کم ٹولز دیں۔ ہر تعریف ہر درخواست میں ساتھ چلتی ہے۔
• قدموں کو محدود کریں اور جب پرانی تاریخ مزید اہم نہ رہے تو نیا کام شروع کریں۔
• ہر قدم کے استعمال کو جمع کریں، اور رن کو پہلے سے منتخب بجٹ پر روکیں۔ تخمینے کی طرف، دیکھیں AI ایجنٹ کی لاگت کا تخمینہ کیسے لگائیں۔

اپنا رن گنیں#

ہر جواب رپورٹ کرتا ہے کہ اس نے کتنے ٹوکن لیے اور دیے، اپنے usage فیلڈ میں۔ انہیں تمام مراحل پر جمع کریں اور آپ کے ایجنٹ کے لیے میرے مفروضات کی بجائے اصل نمبر آپ کے پاس ہوں گے۔ CheapTokens کی طرف اشارہ کردہ OpenAI Python SDK کے ساتھ ایک خاکہ (messages اور tools آپ کے ایجنٹ کے اپنے ہیں):

from openai import OpenAI

client = OpenAI(base_url="https://api.cheaptokens.dev/v1", api_key="YOUR_API_KEY")

total_in = total_out = 0
for step in range(20):  # your agent loop
    resp = client.chat.completions.create(
        model="deepseek-ai/DeepSeek-V4-Flash-0731",
        messages=messages,
        tools=tools,
    )
    total_in += resp.usage.prompt_tokens
    total_out += resp.usage.completion_tokens
    # ...run the tool, append the result to messages

print(total_in, total_out)

دو کل اوپر کی لاگت کے جدول میں سیدھے فٹ ہو جاتے ہیں۔ اس طرح کی لمبی تاریخوں کے لیے، DeepSeek-V4-Flash آپ کو 380K سیاق و سباق کی ونڈو اور فی جواب 32,768 تک آؤٹ پٹ ٹوکن دیتا ہے، کسی بھی وقت ایک قیمت پر؛ GLM-5.3-Flash میں 390K سیاق و سباق اور 8,192 تک آؤٹ پٹ ٹوکن ہیں۔ سیٹ اپ دستاویزات میں ہے، ہر ماڈل کی موجودہ قیمت قیمتوں کے صفحے پر ہے، اور ماڈل کا اپنا صفحہ ہے، سستا DeepSeek۔