কোন মডেল একটি ১০০K-টোকেন ডকুমেন্টে ফিট করে: কনটেক্সট এবং আউটপুট সীমা

সংক্ষিপ্ত উত্তর: একটি ১০০K-টোকেন ডকুমেন্ট তিনটি মডেলের যেকোনোটিতে এক অনুরোধে চলে যায়। তাদের মধ্যে পার্থক্য হলো এর চারপাশের জায়গা। GLM-5.3-Flash-এর কনটেক্সট উইন্ডো ৩৯০K, DeepSeek-V4-Flash-এর ৩৮০K এবং এটি সর্বোচ্চ ৩২,৭৬৮ টোকেন ফেরত লিখতে পারে, MiniMax-M2.7-এর ১৮০K। দুটি পরীক্ষা বলে দেয় কোনটি ব্যবহার করবেন: ডকুমেন্ট ও উত্তর কি উইন্ডোতে ফিট করে, এবং উত্তরটি কি মডেলের আউটপুট সীমার মধ্যে ফিট করে।

নিচের সীমাগুলো CheapTokens-এর নিজস্ব, ১ নভেম্বর ২০২৬-এ যাচাই করা, এবং আপনি যখন https://api.cheaptokens.dev/v1 কল করেন তখন আপনার অনুরোধ এগুলোর বিপরীতে মাপা হয়। ডকুমেন্টেশন দেখায় কীভাবে সংযোগ করবেন, এবং মূল্য তালিকা-তে সম্পূর্ণ দামের তালিকা আছে।

দুই-ধাপের পরীক্ষা#

উভয় নিয়মই এমন সংখ্যা ব্যবহার করে যা আপনি কিছু পাঠানোর আগেই জানতে পারেন:

1. ইনপুট টোকেন + max_tokens ≤ কনটেক্সট উইন্ডো। ডকুমেন্ট এবং উত্তর একটি উইন্ডো শেয়ার করে।
2. max_tokens ≤ মডেলের আউটপুট সীমা।

শেষ কলামটি হলো উইন্ডো বিয়োগ দীর্ঘতম উত্তর, K-কে ১,০০০ ধরে: ৩৯০,০০০ − ৮,১৯২ = ৩৮১,৮০৮; ৩৮০,০০০ − ৩২,৭৬৮ = ৩৪৭,২৩২; ১৮০,০০০ − ৮,১৯২ = ১৭১,৮০৮। বাস্তবে আপনি খুব কমই সর্বোচ্চ সম্ভাব্য উত্তর চান, তাই ওই কলামের চেয়ে আপনার বেশি জায়গা থাকে।

এখানে একটি বাস্তবসম্মত কেসে পরীক্ষাটি দেখানো হলো। আপনার কাছে ২০০,০০০-টোকেন লগ আছে এবং ২,০০০-টোকেন বিশ্লেষণ চান: ২০০,০০০ + ২,০০০ = ২০২,০০০। এটি ৩৯০K এবং ৩৮০K উইন্ডোতে ফিট করে এবং ১৮০K-তে ফিট করে না। একই লগ, একই প্রশ্ন, এবং তিনটির একটি ইতিমধ্যেই বাদ।

আপনার ডকুমেন্ট আসলে কত বড়?#

পৃষ্ঠা একটি দুর্বল একক, টোকেনই আসল। ধরুন একটি ইংরেজি পৃষ্ঠা প্রায় ৬০০ টোকেন (একটি অনুমান; বাস্তব পৃষ্ঠাগুলো মোটামুটি ৫০০ থেকে ৭০০ পর্যন্ত হয়)। তাহলে একটি ১০০K-টোকেন ডকুমেন্ট হলো ১০০,০০০ ÷ ৬০০ ≈ ১৬৭ পৃষ্ঠা। এটি একটি মোটা চুক্তি বা একটি দীর্ঘ বার্ষিক প্রতিবেদন, এবং এটি টেবিলের প্রতিটি মডেলে যথেষ্ট জায়গাসহ ফিট করে।

পৃষ্ঠার অনুমান পরিকল্পনার জন্য। পাঠানোর আগে একটি টোকেনাইজার দিয়ে টোকেন গণনা করুন, অথবা ইংরেজির জন্য প্রতি টোকেনে প্রায় চার অক্ষরের মোটামুটি নিয়ম ব্যবহার করুন। প্রতিটি মডেলের নিজস্ব টোকেনাইজার আছে, তাই একটি গণনা একটি অনুমান, এবং অনুরোধের পরে প্রতিক্রিয়ার usage ফিল্ড সঠিক সংখ্যা দেয়।

কোডে পরীক্ষাটি চালান#

এই স্ক্রিপ্টটি উপরের সীমাগুলোর বিপরীতে একটি চুক্তি যাচাই করে, এটি পাঠায়, এবং উত্তরটি কীভাবে শেষ হলো তা প্রিন্ট করে। প্রথমে CHEAPTOKENS_API_KEY সেট করুন, এবং অন্যগুলো চেষ্টা করতে মডেল আইডি বদলান।

import os
from openai import OpenAI

# context window, max answer tokens (CheapTokens, checked 1 Nov 2026)
LIMITS = {
    'zai-org/GLM-5.3-Flash': (390_000, 8_192),
    'deepseek-ai/DeepSeek-V4-Flash-0731': (380_000, 32_768),
    'MiniMaxAI/MiniMax-M2.7': (180_000, 8_192),
}

def fits(model, input_tokens, max_tokens):
    context, out_limit = LIMITS[model]
    return max_tokens <= out_limit and input_tokens + max_tokens <= context

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)

text = open('contract.txt', encoding='utf-8').read()
estimate = len(text) // 4   # rough: about 4 characters per token in English
model = 'zai-org/GLM-5.3-Flash'
max_tokens = 1500

if not fits(model, estimate, max_tokens):
    raise SystemExit('Does not fit: pick another model or split the text')

reply = client.chat.completions.create(
    model=model,
    max_tokens=max_tokens,
    messages=[
        {'role': 'system', 'content': 'Summarize contracts in 10 bullet points.'},
        {'role': 'user', 'content': text},
    ],
)
print(reply.choices[0].finish_reason)   # stop = ended on its own, length = cut by max_tokens
print(reply.usage.prompt_tokens, reply.usage.completion_tokens)

যদি এটি কাজ করে, প্রথম লাইন stop প্রিন্ট করে এবং দ্বিতীয়টি দেখায় কত টোকেন ঢুকেছে এবং বেরিয়েছে। যদি আপনি length দেখেন, উত্তরটি max_tokens-এ পৌঁছেছে; এই নিবন্ধটি সমাধান ব্যাখ্যা করে। এবং যদি আকারের কারণে অনুরোধ প্রত্যাখ্যাত হয়, অনুরোধ খুব দীর্ঘ: 400 বনাম 413 এটি ধাপে ধাপে দেখায়।

একটি ১০০K কাজের খরচ কত#

ধরুন আপনি চুক্তি সারসংক্ষেপ করেন। প্রতিটি ১০০,০০০ টোকেন, এবং সারসংক্ষেপ প্রায় ১,৫০০ টোকেন (অনুমান, আপনার ফাইলের সাথে মেলাতে সেগুলো পরিবর্তন করুন)। নিচের টেবিলটি লাইভ: এটি বর্তমান দাম থেকে পুনরায় গণনা করে এবং আমাদের পাশে OpenRouter রেফারেন্স রাখে।

এখানে ডকুমেন্টটিই ব্যয়বহুল দিক, কারণ আপনি ফেরত পাওয়ার চেয়ে অনেক বেশি পাঠান। এমন একটি কাজের জন্য মোট খরচ GLM-5.3-Flash-এ $0.0021, DeepSeek-V4-Flash-এ $0.0017 এবং MiniMax-M2.7-এ $0.0052। ইনপুট ও আউটপুট একসাথে গণনা করলে, তিনটিই OpenRouter-এর চেয়ে সস্তা হয়। দাম প্রতি মডেলে নির্দিষ্ট, কোনো পিক আওয়ার নেই, তাই রাতের ব্যাচের খরচ দিনের ব্যাচের সমান।

এখন এটিকে আপনার দিনে স্কেল করুন। স্লাইডারগুলো আপনার নিজের লোডে সরান এবং মোট পড়ুন:

যখন উত্তরটাই দীর্ঘ অংশ#

সারসংক্ষেপ সহজ কেস: একটি সংক্ষিপ্ত উত্তর সব জায়গায় ফিট করে। সমস্যা শুরু হয় যখন মডেলকে অনেক লিখতে হয়। ধরুন আপনার একটি ২০,০০০-টোকেন ম্যানুয়াল আছে এবং আপনি এর উপর ভিত্তি করে একটি ৬,০০০-টোকেন প্রতিবেদন চান। এটি প্রতিটি মডেলে ফিট করে (৬,০০০ ≤ ৮,১৯২), এবং লাইভ টেবিল খরচ দেখায়:

এখন একই ম্যানুয়ালের সম্পূর্ণ অনুবাদ চান। একটি অনুবাদ মূলের প্রায় সমান দীর্ঘ হয়, তাই আপনার প্রায় ২০,০০০ টোকেন উত্তরের জায়গা দরকার। max_tokens কে ২৫,০০০-এ সেট করুন: ২০,০০০ + ২৫,০০০ = ৪৫,০০০, ৩৮০K উইন্ডোর ভেতরে ভালোভাবে, এবং ২৫,০০০ ≤ ৩২,৭৬৮, তাই DeepSeek-V4-Flash এটি এক উত্তরে নেয়। এমন একটি একক কাজের খরচ $0.0023। ৮,১৯২-টোকেন উত্তর সীমার মডেলগুলোর জন্য, ম্যানুয়ালটি অধ্যায়ে ভাগ করুন এবং এক এক করে পাঠান।

আপনার কেসের জন্য কোনটি#

যদি এখনও নিশ্চিত না হন, স্ক্রিপ্টের মাধ্যমে একটি বাস্তব ডকুমেন্ট চালান এবং usage পড়ুন। কাজ অনুযায়ী তিনটি মডেলের বিস্তৃত তুলনার জন্য, GLM বনাম DeepSeek বনাম MiniMax দেখুন, এবং DeepSeek পৃষ্ঠা DeepSeek-V4-Flash আরও বিস্তারিতভাবে কভার করে।