AI एजेंट की लागत का अनुमान कैसे लगाएँ

एक AI एजेंट एक अनुरोध नहीं करता — वह दर्जनों करता है, और हर चरण बढ़ती हुई बातचीत को फिर से भेजता है। इसीलिए एजेंट के बिल में इनपुट टोकन हावी होते हैं, और इसीलिए चैट ऐप्स से मिली "प्रति उत्तर की कीमत" वाली अंतर्ज्ञान काम नहीं करती। यहाँ बताया गया है कि एजेंट चलने से पहले लागत का अनुमान कैसे लगाएँ, और पैसा वास्तव में कहाँ जाता है।

सूत्र#

एक अनुरोध की लागत इनपुट टोकन गुणा इनपुट मूल्य प्लस आउटपुट टोकन गुणा आउटपुट मूल्य है। कीमतें प्रति मिलियन टोकन बताई जाती हैं:

request_cost = input_tokens / 1,000,000 × input_price
             + output_tokens / 1,000,000 × output_price

किसी कार्य की लागत उसे हल करते समय एजेंट द्वारा किए गए सभी अनुरोधों का योग है।

एजेंट इनपुट-भारी क्यों होते हैं#

हर चरण पर एजेंट मॉडल को भेजता है:

• सिस्टम प्रॉम्प्ट और टूल परिभाषाएँ;
• अब तक का पूरा इतिहास — पिछले संदेश, मॉडल के पिछले उत्तर और टूल परिणाम (फ़ाइल सामग्री, कमांड आउटपुट, खोज परिणाम);
• नया निर्देश।

मॉडल आमतौर पर एक छोटा संदेश या टूल कॉल के साथ उत्तर देता है। फिर टूल परिणाम इतिहास में जोड़ दिया जाता है और अगला चरण सब कुछ फिर से भेजता है। इसलिए हर चरण का इनपुट बढ़ता है, जबकि आउटपुट छोटा रहता है।

एक हल किया हुआ उदाहरण#

शर्तें (मान्यताएँ — इन्हें अपने एजेंट के आंकड़ों से बदलें):

• सिस्टम प्रॉम्प्ट और टूल परिभाषाएँ: 6,000 टोकन;
• प्रत्येक चरण इतिहास में 1,500 टोकन टूल परिणाम और 500 टोकन मॉडल आउटपुट जोड़ता है;
• कार्य में 30 चरण लगते हैं;
• मॉडल: DeepSeek-V4-Flash, $0.0221 प्रति 1M इनपुट टोकन और $0.10 प्रति 1M आउटपुट टोकन (वर्तमान कीमतें)।

चरण n का इनपुट 6,000 + (n − 1) × 2,000 टोकन है। 30 चरणों में:

• कुल इनपुट: 30 × 6,000 + 2,000 × (0 + 1 + … + 29) = 180,000 + 870,000 = 1,050,000 टोकन;
• कुल आउटपुट: 30 × 500 = 15,000 टोकन;
• लागत: 1.05 × $0.0221 + 0.015 × $0.10 ≈ $0.0247 प्रति कार्य।

इनपुट टोकनों का 98.6% है और लगभग पूरी लागत का। इनपुट कितना हावी होगा यह परिदृश्य पर निर्भर करता है: लंबे उत्तर, जनरेट की गई फ़ाइलें और रीज़निंग मॉडल आउटपुट का हिस्सा बढ़ाते हैं, जबकि छाँटा गया इतिहास और छोटा टूल आउटपुट इनपुट का हिस्सा घटाते हैं।

वर्तमान कीमतों पर हर मॉडल पर वही कार्य, तुलना के लिए OpenRouter की संदर्भ कीमतों के साथ:

कोड में अनुमान लगाएँ#

वही गणना एक फ़ंक्शन के रूप में — मान्यताएँ और कीमतें बदलें:

def estimate(steps, base_tokens, tool_tokens, out_tokens, price_in, price_out):
    """Token totals and cost of one agent task. Prices: $ per 1M tokens."""
    grow = tool_tokens + out_tokens            # what each step adds to the history
    total_in = steps * base_tokens + grow * steps * (steps - 1) // 2
    total_out = steps * out_tokens
    cost = (total_in * price_in + total_out * price_out) / 1_000_000
    return total_in, total_out, round(cost, 5)

# example rates, $ per 1M tokens — put in the current ones from the pricing table below
print(estimate(30, 6_000, 1_500, 500, price_in=0.10, price_out=0.40))
# (1050000, 15000, 0.111)

द्विघात पद पर ध्यान दें: चरणों की संख्या दोगुनी करने पर इनपुट लगभग चार गुना हो जाता है। लंबे सत्र महँगे होते हैं, किसी एक चरण की वजह से नहीं, बल्कि इसलिए कि हर चरण पूरा इतिहास ढोता है।

अनुमान के बजाय मापें#

हर प्रतिक्रिया में usage.prompt_tokens (इनपुट) और usage.completion_tokens (आउटपुट) शामिल होते हैं। किसी वास्तविक कार्य के प्रत्येक चरण के लिए इन्हें लॉग करें, वर्तमान दरों से गुणा करें, और आपके पास वास्तविक लागत होगी। डैशबोर्ड मॉडल और दिन के अनुसार उपयोग भी दिखाता है।

वर्तमान दरें — pricing page पर मौजूद वही डेटा:

लागत घटाने के सात तरीके#

1. असंबंधित काम के लिए नया कार्य शुरू करें। एक नया सत्र पिछले सत्र का इतिहास नहीं ढोता।
2. एजेंट को पूरी फ़ाइलें नहीं, टुकड़े दें। 3,000 पंक्तियों के मॉड्यूल के बजाय एक फ़ंक्शन और उसके कॉलर।
3. टूल आउटपुट छाँटें। लंबे लॉग और कमांड आउटपुट सत्र के बाकी हिस्से तक इतिहास में रहते हैं — उन्हें सीमित करें, उदाहरण के लिए | tail -n 50 से।
4. लंबे सत्रों का सारांश बनाएँ। कई एजेंट इतिहास को संक्षिप्त कर सकते हैं; संदर्भ लंबा होने से पहले इसका उपयोग करें।
5. उत्तर की लंबाई सीमित करें max_tokens से जहाँ लंबे उत्तरों की ज़रूरत नहीं है।
6. चरण के लिए सही मॉडल चुनें। नियमित चरणों को रीज़निंग मॉडल की ज़रूरत नहीं होती।
7. प्रीपेड बजट रखें। बैलेंस प्रीपेड है: खत्म होने पर अनुरोध HTTP 402 के साथ रुक जाते हैं, बजाय खुला-अंत बिल बढ़ाने के।

यह देखने के लिए कि वही वर्कलोड मॉडलों और OpenRouter के साथ कैसे तुलना करता है, होम पेज पर लागत तुलना का उपयोग करें।