প্রতি 1M টোকেনের দাম বনাম প্রতি কাজের খরচ: AI মডেল কীভাবে তুলনা করবেন

একটি সম্পন্ন কাজের খরচ দিয়ে মডেল তুলনা করুন, প্রতি 1M টোকেনের দাম দিয়ে নয়। একটি কাজের খরচ = টোকেন ইন × ইনপুট দাম + টোকেন আউট × আউটপুট দাম, যা যতবার চেষ্টা লাগে তার সাথে গুণিত হয়। তাই প্রতি টোকেনে অর্ধেক দামের একটি মডেলও আপনাকে বড় বিল দিতে পারে।

এটাই সাধারণ চমক: এজেন্ট কাজ শেষ করেছে, দামের তালিকা সস্তা দেখাচ্ছিল, আর বিলটি কাজের যোগ্যতার চেয়ে বড়। চলুন দেখি পার্থক্যটা কোথায় লুকিয়ে আছে।

প্রতি টোকেনের দাম মানে প্রতি কিলোর দাম#

ময়দার প্রতি কিলোর দাম রাতের খাবারের খরচ সম্পর্কে কিছুই বলে না। রেসিপিতে কত কিলো লাগবে, আর আপনি প্রথম ব্যাচ পুড়িয়ে ফেলে আবার শুরু করবেন কিনা, সেটা জানা দরকার।

AI মডেলও একইভাবে কাজ করে। প্রতি 1M টোকেনের দাম হলো প্রতি কিলোর দাম। কাজটি হলো রাতের খাবার। প্রতিটি অনুরোধ দুই দিক থেকে বিল হয়: আপনি যে টোকেন পাঠান (ইনপুট) এবং মডেল যে টোকেন ফেরত লেখে (আউটপুট)। উভয় সংখ্যাই OpenAI-সামঞ্জস্যপূর্ণ API, যেমন https://api.cheaptokens.dev/v1-এ CheapTokens API, থেকে প্রতিটি প্রতিক্রিয়ার usage ফিল্ডে ফেরত আসে (২৯ অক্টোবর ২০২৬-এ যাচাই করা), তাই আপনাকে কখনো অনুমান করতে হবে না।

এখানে সম্পূর্ণ সূত্র:

cost per task = attempts × (tokens in × input price + tokens out × output price)

ধরুন একটি কাজ 3,000 টোকেন পাঠায় এবং 1,000 ফেরত পায়। মডেল A-এর ইনপুটে প্রতি 1M টোকেনে $1 এবং আউটপুটে $5 খরচ। মডেল B তার অর্ধেক: $0.50 এবং $2.50। (এগুলো যোগফলের জন্য বানানো গোল দাম, কারও দামের তালিকা নয়।)

মডেল A, এক চেষ্টা:

• 3,000 × $1 ÷ 1,000,000 = ইনপুটে $0.003
• 1,000 × $5 ÷ 1,000,000 = আউটপুটে $0.005
• $0.003 + $0.005 = প্রতি কাজে $0.008

মডেল B সস্তা মনে হচ্ছে। কিন্তু ধরুন ব্যবহারযোগ্য ফলাফল পেতে এটির তিনটি চেষ্টা লাগে, এবং প্রতিটি চেষ্টার খরচ একই:

• 3,000 × $0.50 ÷ 1,000,000 = ইনপুটে $0.0015
• 1,000 × $2.50 ÷ 1,000,000 = আউটপুটে $0.0025
• $0.0015 + $0.0025 = প্রতি চেষ্টায় $0.004
• 3 × $0.004 = প্রতি কাজে $0.012

প্রতি টোকেনে অর্ধেক দাম, প্রতি কাজে দেড় গুণ দাম। একই জিনিস পুনরায় চেষ্টা ছাড়াই ঘটে যদি B কেবল দীর্ঘ উত্তর লেখে: এক চেষ্টায় 3,000 আউটপুট টোকেনের সাথে, 3,000 × $2.50 ÷ 1,000,000 = $0.0075, এবং $0.0015 + $0.0075 = $0.009। তবুও A-এর $0.008-এর চেয়ে বেশি।

আর উল্টোটাও সত্য। যদি B প্রথমবারেই সঠিক করে, তবে প্রতি কাজে $0.004 খরচ, A-এর অর্ধেক। প্রতি টোকেনের দাম কেবল তখনই জেতে যখন টোকেন এবং চেষ্টার সংখ্যা প্রায় সমান। যেটা ঠিক পরীক্ষা করার জিনিস।

প্রতি কাজে টোকেন আসলে কোথায় যায়#

তিনটি জিনিস টোকেন সংখ্যা বদলায়, এবং এর কোনোটিই দামের তালিকায় দেখায় না।

1. উত্তরের দৈর্ঘ্য। যে মডেল দীর্ঘ ব্যাখ্যা দেয় সে এক লাইনে উত্তর দেওয়া মডেলের চেয়ে বেশি আউটপুট টোকেন লেখে।
2. পুনরায় চেষ্টা। ব্যর্থ বা অকেজো উত্তরও টোকেন খরচ করেছে, এবং পরের চেষ্টায় আবার দিতে হয়।
3. পুনরায় পাঠানো প্রসঙ্গ। একটি API মনে রাখে না: এজেন্টের প্রতিটি ধাপ নির্দেশনা, ফাইল এবং ইতিহাস আবার পাঠায়। এটি নতুন হলে, দীর্ঘ চ্যাট কেন বেশি খরচ করে প্রক্রিয়াটি দেখায়।

তৃতীয়টি এজেন্টদের জন্য বড় বিষয়। ধরুন একটি কোডিং এজেন্ট ২০ ধাপে কাজ করে। একটি ভারী এজেন্ট ধাপ ধরে নিন: 20,000 টোকেন ইন এবং 1,000 ফেরত। বাস্তব ধাপে-ধাপে সংখ্যা সহ হালকা রানের জন্য, দেখুন AI এজেন্ট কেন এত টোকেন ব্যবহার করে। উত্তরগুলো ছোট। ইনপুট নয়।

তাই এই কাজের জন্য ইনপুট দিক বিল নির্ধারণ করে, এবং আউটপুট দিক প্রায় গুরুত্বহীন। সস্তা ইনপুট দামের একটি মডেল এখানে জিততে পারে যদিও এর আউটপুট দাম সাধারণ দেখায়। এটি একটি দামের তালিকা আপনাকে কেবল তখনই দেখায় যখন আপনি নিজের কাজের কথা মাথায় রেখে পড়েন।

এখানে ঠিক সেই কাজ, 20,000 ইন এবং 1,000 আউট-এর ২০ ধাপ, CheapTokens-এ উপলব্ধ মডেলগুলিতে। টেবিলটি লাইভ, তাই সংখ্যাগুলো বর্তমান দাম অনুসরণ করে, এবং OpenRouter কলামটি তুলনার জন্য আছে। ইনপুট এবং আউটপুট একসাথে গণনা করলে, তিনটিই মোটের দিক থেকে OpenRouter-এর চেয়ে সস্তা।

এই ধরনের এজেন্ট লুপের জন্য, DeepSeek-V4-Flash স্বাভাবিক পছন্দ: 380K প্রসঙ্গ, প্রতি উত্তরে 32,768 আউটপুট টোকেন পর্যন্ত, এবং দিনের যেকোনো সময় একই দাম, তাই রাতের রান দিনের রানের মতোই খরচ করে। এটিতে ২০ ধাপে সম্পূর্ণ কাজের খরচ $0.008। বিস্তারিত জানতে মডেল পৃষ্ঠা এবং প্রতিটি মডেলের জন্য দামের টেবিল দেখুন।

চ্যাটবট হলো উল্টো গল্প#

এখন একটি সাপোর্ট বট নিন। ধরুন এটি দিনে 1,000 অনুরোধ পায়, এবং প্রতিটি প্রসঙ্গসহ 2,000-টোকেনের প্রশ্ন এবং 500-টোকেনের উত্তর। কোনো লুপ নেই, বাড়তে থাকা ইতিহাস নেই, এক চেষ্টা।

এখানে প্রতি টোকেনের দাম প্রায় প্রতি কাজের খরচ, কারণ কিছুই এটিকে গুণ করে না। GLM-5.3-Flash-এ, 390K প্রসঙ্গ এবং প্রতি উত্তরে 8,192 আউটপুট টোকেন পর্যন্ত, একটি অনুরোধের খরচ $0.00006 এবং 1,000 অনুরোধের পুরো দিনের খরচ $0.06।

তাই নিয়মটি সহজ। একটি সংক্ষিপ্ত, একক-শট কাজ: প্রতি টোকেনের দাম ন্যায্য নির্দেশক। একটি লুপ, পুনরায় চেষ্টা-প্রবণ কাজ বা দীর্ঘ-উত্তরের কাজ: বেছে নেওয়ার আগে একটি সম্পূর্ণ কাজের দাম নির্ধারণ করুন।

দশ মিনিটে আপনার নিজের কাজ পরিমাপ করুন#

আপনার নিজের সংখ্যা এখানে যেকোনো উদাহরণের চেয়ে ভালো। নিচের স্ক্রিপ্টটি একটি অনুরোধ পাঠায় এবং আসলে কী ব্যবহার হয়েছে এবং তার খরচ কত তা প্রিন্ট করে। এতে থাকা দামগুলো একটি উদাহরণ: দামের টেবিল থেকে বর্তমানগুলো বসান।

from openai import OpenAI

client = OpenAI(base_url="https://api.cheaptokens.dev/v1", api_key="YOUR_KEY")

# example prices per 1M tokens, substitute current ones
PRICE_IN, PRICE_OUT = 1.00, 5.00

resp = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Flash-0731",
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: <your text>"}],
    max_tokens=300,
)
u = resp.usage
cost = (u.prompt_tokens * PRICE_IN + u.completion_tokens * PRICE_OUT) / 1_000_000
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

যখন এটি কাজ করে আপনি এক লাইনে তিনটি সংখ্যা পাবেন: টোকেন ইন, টোকেন আউট এবং সেই চেষ্টার খরচ। তারপর:

1. আপনার ২০টি বাস্তব কাজ চালান, খেলনা নয়।
2. প্রতিটি চেষ্টার খরচ যোগ করুন, যেগুলো আপনি ফেলে দিয়েছেন সেগুলোসহ।
3. ২০ দিয়ে ভাগ করুন। এটাই আপনার প্রতি কাজের খরচ।
4. অন্য মডেল দিয়ে পুনরাবৃত্তি করুন এবং দুটি ফলাফল তুলনা করুন।

দীর্ঘ রানের জন্য, Python-এ এজেন্ট টোকেন খরচ ট্র্যাকিং একই ধারণায় একটি বাজেট এবং স্টপ যোগ করে, এবং একটি অনুরোধ কত টোকেন ব্যবহার করে শুরু করার জন্য সাধারণ আকার দেখায়।

দ্রুত পরীক্ষা#

পরবর্তী, ইনপুট বনাম আউটপুট টোকেন ব্যাখ্যা করে কেন দুই দিকের দাম আলাদা, এবং ডকুমেন্টেশন আপনাকে একটি কী থেকে প্রথম অনুরোধ পর্যন্ত নিয়ে যায়।