Aling modelo ang kasya sa isang 100K-token na dokumento: context at output limits

Mкороткий sagot: ang isang 100K-token na dokumento ay pumapasok sa alinman sa tatlong modelo sa isang kahilingan. Ang naghihiwalay sa kanila ay ang espasyo sa paligid nito. Ang GLM-5.3-Flash ay may 390K na context window, ang DeepSeek-V4-Flash ay may 380K at makakasulat ng hanggang 32,768 token pabalik, ang MiniMax-M2.7 ay may 180K. Dalawang pagsusuri ang magsasabi kung alin ang gagamitin: kasya ba ang dokumento at ang sagot sa window, at kasya ba ang sagot sa output limit ng modelo.

Ang mga limitasyon sa ibaba ay sarili ng CheapTokens, sinuri noong 1 Nobyembre 2026, at ito ang pinagbabatayan ng iyong kahilingan kapag tumawag ka sa https://api.cheaptokens.dev/v1. Ipinapakita ng docs kung paano kumonekta, at ang pricing ay may buong listahan ng presyo.

Ang dalawang-hakbang na pagsusuri#

Parehong gumagamit ng mga numerong alam mo bago ka magpadala ng kahit ano:

1. Input tokens + max_tokens ≤ context window. Ang dokumento at ang sagot ay nagbabahagi ng isang window.
2. max_tokens ≤ ang output limit ng modelo.

Ang huling kolum ay ang window na binawasan ng pinakamahabang sagot, binabasa ang K bilang 1,000: 390,000 − 8,192 = 381,808; 380,000 − 32,768 = 347,232; 180,000 − 8,192 = 171,808. Sa pagsasagawa, bihirang humingi ka ng pinakamahabang posibleng sagot, kaya mas marami kang espasyo kaysa ipinapakita ng kolum na iyon.

Narito ang pagsusuri sa isang makatotohanang kaso. Mayroon kang 200,000-token na log at gusto mo ng 2,000-token na pagsusuri: 200,000 + 2,000 = 202,000. Kasya iyon sa 390K at 380K na window at hindi kasya sa 180K. Parehong log, parehong tanong, at isa sa tatlo ay out na agad.

Gaano kalaki ang iyong dokumento, talaga?#

Mahinang yunit ang mga pahina, token ang tunay. Sabihin nating ang isang pahinang Ingles ay mga 600 token (isang palagay; ang totoong mga pahina ay mula sa mga 500 hanggang 700). Kung gayon, ang isang 100K-token na dokumento ay 100,000 ÷ 600 ≈ 167 pahina. Iyon ay isang makapal na kontrata o isang mahabang taunang ulat, at kasya ito sa lahat ng modelo sa talahanayan na may natitirang espasyo.

Ang pagtatantya ng pahina ay para sa pagpaplano. Bago ka magpadala, bilangin ang mga token gamit ang isang tokenizer, o gamitin ang magaspang na tuntunin na mga apat na character bawat token para sa Ingles. Bawat modelo ay may sariling tokenizer, kaya ang isang bilang ay isang pagtatantya, at pagkatapos ng kahilingan ang usage field ng tugon ay nagbibigay ng eksaktong mga numero.

Patakbuhin ang pagsusuri sa code#

Sinusuri ng script na ito ang isang kontrata laban sa mga limitasyon sa itaas, ipinapadala ito, at ipinapakita kung paano natapos ang sagot. Itakda muna ang CHEAPTOKENS_API_KEY, at palitan ang model id upang subukan ang iba.

import os
from openai import OpenAI

# context window, max answer tokens (CheapTokens, checked 1 Nov 2026)
LIMITS = {
    'zai-org/GLM-5.3-Flash': (390_000, 8_192),
    'deepseek-ai/DeepSeek-V4-Flash-0731': (380_000, 32_768),
    'MiniMaxAI/MiniMax-M2.7': (180_000, 8_192),
}

def fits(model, input_tokens, max_tokens):
    context, out_limit = LIMITS[model]
    return max_tokens <= out_limit and input_tokens + max_tokens <= context

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)

text = open('contract.txt', encoding='utf-8').read()
estimate = len(text) // 4   # rough: about 4 characters per token in English
model = 'zai-org/GLM-5.3-Flash'
max_tokens = 1500

if not fits(model, estimate, max_tokens):
    raise SystemExit('Does not fit: pick another model or split the text')

reply = client.chat.completions.create(
    model=model,
    max_tokens=max_tokens,
    messages=[
        {'role': 'system', 'content': 'Summarize contracts in 10 bullet points.'},
        {'role': 'user', 'content': text},
    ],
)
print(reply.choices[0].finish_reason)   # stop = ended on its own, length = cut by max_tokens
print(reply.usage.prompt_tokens, reply.usage.completion_tokens)

Kung gumana ito, ang unang linya ay magpi-print ng stop at ang pangalawa ay magpapakita kung ilang token ang pumasok at lumabas. Kung makita mo ang length, naabot ng sagot ang max_tokens; ipinapaliwanag ng artikulong ito ang solusyon. At kung tinanggihan ang kahilingan dahil sa laki, tinatalakay ito ng request too long: 400 vs 413.

Magkano ang isang 100K na trabaho#

Sabihin nating nagbubuod ka ng mga kontrata. Ang bawat isa ay 100,000 token, at ang buod ay mga 1,500 token (mga palagay, palitan ang mga ito upang tumugma sa iyong mga file). Ang talahanayan sa ibaba ay live: nagre-recalculate ito mula sa kasalukuyang mga presyo at inilalagay ang OpenRouter reference sa tabi ng sa amin.

Ang dokumento ang magastos na bahagi dito, dahil mas marami kang ipinapadala kaysa natatanggap pabalik. Para sa isang ganoong trabaho ang mga kabuuan ay $0.0021 sa GLM-5.3-Flash, $0.0017 sa DeepSeek-V4-Flash at $0.0052 sa MiniMax-M2.7. Sa pagsasama ng input at output, lahat ng tatlo ay lumalabas na mas mura kaysa OpenRouter. Ang mga presyo ay fixed bawat modelo na walang peak hours, kaya ang isang night batch ay kapareho ng gastos sa daytime.

Ngayon i-scale ito sa iyong araw. Ilipat ang mga slider sa iyong sariling load at basahin ang kabuuan:

Kapag ang sagot ang mahabang bahagi#

Ang mga buod ay ang madaling kaso: ang isang maikling sagot ay kasya kahit saan. Nagsisimula ang problema kapag kailangang magsulat ng marami ang modelo. Sabihin nating mayroon kang 20,000-token na manwal at humihingi ka ng 6,000-token na ulat batay dito. Kasya iyon sa lahat ng modelo (6,000 ≤ 8,192), at ipinapakita ng live na talahanayan ang gastos:

Ngayon humingi ng buong pagsasalin ng parehong manwal. Ang isang pagsasalin ay tumatagal ng halos kasinghaba ng orihinal, kaya kailangan mo ng espasyo para sa mga 20,000 token ng sagot. Itakda ang max_tokens sa 25,000: 20,000 + 25,000 = 45,000, nasa loob ng 380K na window, at 25,000 ≤ 32,768, kaya kayang-kaya ito ng DeepSeek-V4-Flash sa isang sagot. Ang isang ganoong trabaho ay nagkakahalaga ng $0.0023. Para sa mga modelong may 8,192-token na limitasyon sa sagot, hatiin ang manwal sa mga kabanata at ipadala nang isa-isa.

Alin para sa iyong kaso#

Kung hindi ka pa rin sigurado, patakbuhin ang isang tunay na dokumento sa script at basahin ang usage. Para sa mas malawak na paghahambing ng tatlong modelo ayon sa gawain, tingnan ang GLM vs DeepSeek vs MiniMax, at ang DeepSeek page ay sumasaklaw sa DeepSeek-V4-Flash nang mas detalyado.