একটি AI এজেন্টের খরচ কীভাবে অনুমান করবেন

একটি AI এজেন্ট একটি অনুরোধ করে না — এটি ডজনখানেক অনুরোধ করে, এবং প্রতিটি ধাপে ক্রমবর্ধমান কথোপকথনটি আবার পাঠায়। এজন্যই এজেন্টের বিলে ইনপুট টোকেনের প্রাধান্য থাকে, এবং এজন্যই চ্যাট অ্যাপের "প্রতি উত্তরের দাম" ধারণাটি এখানে কাজ করে না। এজেন্ট চালানোর আগেই খরচ কীভাবে অনুমান করা যায়, এবং টাকাটা আসলে কোথায় যায় — তা এখানে দেওয়া হলো।

সূত্র#

একটি অনুরোধের খরচ হলো ইনপুট টোকেন গুণ ইনপুট মূল্য যোগ আউটপুট টোকেন গুণ আউটপুট মূল্য। মূল্যগুলো প্রতি মিলিয়ন টোকেন হিসেবে উল্লেখ করা হয়:

request_cost = input_tokens / 1,000,000 × input_price
             + output_tokens / 1,000,000 × output_price

একটি টাস্কের খরচ হলো এজেন্ট সেটি সমাধান করার সময় যত অনুরোধ করে, সেগুলোর সবগুলোর যোগফল।

কেন এজেন্টরা ইনপুট-ভারী হয়#

প্রতিটি ধাপে এজেন্ট মডেলের কাছে পাঠায়:

• সিস্টেম প্রম্পট এবং টুলের সংজ্ঞা;
• এখন পর্যন্ত সম্পূর্ণ ইতিহাস — আগের বার্তা, মডেলের পূর্ববর্তী উত্তর এবং টুলের ফলাফল (ফাইলের বিষয়বস্তু, কমান্ডের আউটপুট, সার্চের ফলাফল);
• নতুন নির্দেশনা।

মডেল সাধারণত একটি ছোট বার্তা বা একটি টুল কল দিয়ে উত্তর দেয়। তারপর টুলের ফলাফল ইতিহাসে যোগ হয় এবং পরবর্তী ধাপে আবার সবকিছু পাঠানো হয়। তাই প্রতিটি ধাপের ইনপুট বাড়তে থাকে, অথচ আউটপুট ছোটই থাকে।

একটি কার্যকর উদাহরণ#

শর্তাবলী (অনুমান — আপনার এজেন্টের সংখ্যা দিয়ে এগুলো প্রতিস্থাপন করুন):

• সিস্টেম প্রম্পট এবং টুল সংজ্ঞা: 6,000 টোকেন;
• প্রতিটি ধাপ ইতিহাসে 1,500 টোকেন টুল ফলাফল এবং 500 টোকেন মডেল আউটপুট যোগ করে;
• কাজটি 30 ধাপ নেয়;
• মডেল: DeepSeek-V4-Flash, $0.0221 প্রতি 1M ইনপুট টোকেন এবং $0.10 প্রতি 1M আউটপুট টোকেন (বর্তমান মূল্য)।

ধাপ n-এর ইনপুট হল 6,000 + (n − 1) × 2,000 টোকেন। 30 ধাপে:

• মোট ইনপুট: 30 × 6,000 + 2,000 × (0 + 1 + … + 29) = 180,000 + 870,000 = 1,050,000 টোকেন;
• মোট আউটপুট: 30 × 500 = 15,000 টোকেন;
• খরচ: 1.05 × $0.0221 + 0.015 × $0.10 ≈ $0.0247 প্রতি কাজ।

ইনপুট হল টোকেনের 98.6% এবং প্রায় সমস্ত খরচ। ইনপুট কতটা প্রভাবশালী হবে তা পরিস্থিতির উপর নির্ভর করে: দীর্ঘ উত্তর, জেনারেট করা ফাইল এবং রিজনিং মডেল আউটপুটের অংশ বাড়ায়, অন্যদিকে ছাঁটাই করা ইতিহাস এবং সংক্ষিপ্ত টুল আউটপুট ইনপুটের অংশ কমায়।

বর্তমান মূল্যে প্রতিটি মডেলে একই কাজ, তুলনার জন্য OpenRouter-এর রেফারেন্স মূল্যসহ:

কোডে এটি অনুমান করুন#

একটি ফাংশন হিসেবে একই গণনা — অনুমান এবং দাম পরিবর্তন করুন:

def estimate(steps, base_tokens, tool_tokens, out_tokens, price_in, price_out):
    """Token totals and cost of one agent task. Prices: $ per 1M tokens."""
    grow = tool_tokens + out_tokens            # what each step adds to the history
    total_in = steps * base_tokens + grow * steps * (steps - 1) // 2
    total_out = steps * out_tokens
    cost = (total_in * price_in + total_out * price_out) / 1_000_000
    return total_in, total_out, round(cost, 5)

# example rates, $ per 1M tokens — put in the current ones from the pricing table below
print(estimate(30, 6_000, 1_500, 500, price_in=0.10, price_out=0.40))
# (1050000, 15000, 0.111)

দ্বিঘাত পদটি লক্ষ্য করুন: ধাপের সংখ্যা দ্বিগুণ করলে ইনপুট প্রায় চারগুণ হয়। দীর্ঘ সেশন ব্যয়বহুল হয় কোনো একক ধাপের কারণে নয়, বরং প্রতিটি ধাপ সম্পূর্ণ ইতিহাস বহন করে বলে।

অনুমান নয়, পরিমাপ করুন#

প্রতিটি প্রতিক্রিয়ায় usage.prompt_tokens (ইনপুট) এবং usage.completion_tokens (আউটপুট) থাকে। একটি বাস্তব কাজের প্রতিটি ধাপের জন্য এগুলো লগ করুন, বর্তমান রেট দিয়ে গুণ করুন, তাহলে প্রকৃত খরচ পেয়ে যাবেন। ড্যাশবোর্ডে মডেল এবং দিন অনুযায়ী ব্যবহারও দেখানো হয়।

বর্তমান রেট — প্রাইসিং পেজে থাকা একই ডেটা:

খরচ কমানোর সাতটি উপায়#

1. অসম্পর্কিত কাজের জন্য নতুন টাস্ক শুরু করুন। একটি নতুন সেশনে আগের সেশনের ইতিহাস থাকে না।
2. এজেন্টকে সম্পূর্ণ ফাইলের বদলে ফ্র্যাগমেন্ট দিন। ৩,০০০ লাইনের মডিউলের বদলে একটি ফাংশন এবং তার কলারগুলো।
3. টুল আউটপুট ছেঁটে দিন। দীর্ঘ লগ এবং কমান্ড আউটপুট সেশনের বাকি সময় ধরে ইতিহাসে থেকে যায় — সেগুলো সীমিত করুন, উদাহরণস্বরূপ | tail -n 50 দিয়ে।
4. দীর্ঘ সেশন সংক্ষেপ করুন। অনেক এজেন্ট ইতিহাস কমপ্যাক্ট করতে পারে; কনটেক্সট দীর্ঘ হওয়ার আগেই এটি ব্যবহার করুন।
5. উত্তরের দৈর্ঘ্য সীমিত করুন max_tokens দিয়ে, যেখানে দীর্ঘ উত্তর প্রয়োজন নেই।
6. ধাপের জন্য সঠিক মডেল ব্যবহার করুন। রুটিন ধাপের জন্য রিজনিং মডেল প্রয়োজন নেই।
7. প্রিপেইড বাজেট রাখুন। ব্যালেন্স প্রিপেইড: এটি শেষ হলে, অনির্দিষ্ট বিল বাড়ানোর বদলে HTTP 402 সহ অনুরোধ বন্ধ হয়ে যায়।

একই ওয়ার্কলোড বিভিন্ন মডেল এবং OpenRouter-এর সাথে কীভাবে তুলনা করে তা দেখতে, হোম পেজের খরচ তুলনা ব্যবহার করুন।