Który model pomieści dokument o rozmiarze 100 tys. tokenów: kontekst i limity wyjścia

Krótka odpowiedź: dokument o rozmiarze 100 tys. tokenów zmieści się w każdym z trzech modeli w jednym żądaniu. Różni je przestrzeń wokół niego. GLM-5.3-Flash ma okno kontekstu 390 tys., DeepSeek-V4-Flash ma 380 tys. i może zwrócić do 32 768 tokenów, MiniMax-M2.7 ma 180 tys. Dwa sprawdzenia mówią, którego użyć: czy dokument i odpowiedź mieszczą się w oknie oraz czy odpowiedź mieści się w limicie wyjścia modelu.

Poniższe limity są własne CheapTokens, sprawdzone 1 listopada 2026, i to z nimi mierzone jest Twoje żądanie, gdy wywołujesz https://api.cheaptokens.dev/v1. Dokumentacja pokazuje, jak się połączyć, a cennik zawiera pełną listę cen.

Sprawdzenie w dwóch krokach#

Obie reguły używają liczb, które możesz znać przed wysłaniem czegokolwiek:

1. Tokeny wejściowe + max_tokens ≤ okno kontekstu. Dokument i odpowiedź dzielą jedno okno.
2. max_tokens ≤ limit wyjścia modelu.

Ostatnia kolumna to okno minus najdłuższa odpowiedź, przy K jako 1000: 390 000 − 8 192 = 381 808; 380 000 − 32 768 = 347 232; 180 000 − 8 192 = 171 808. W praktyce rzadko prosisz o najdłuższą możliwą odpowiedź, więc masz więcej miejsca, niż pokazuje ta kolumna.

Oto sprawdzenie na realistycznym przypadku. Masz log o rozmiarze 200 000 tokenów i chcesz analizę o rozmiarze 2000 tokenów: 200 000 + 2000 = 202 000. To mieści się w oknach 390 tys. i 380 tys., a nie mieści się w 180 tys. Ten sam log, to samo pytanie, a jeden z trzech modeli już odpada.

Jak duży jest naprawdę Twój dokument?#

Strony to słaba jednostka, tokeny są prawdziwą. Przyjmijmy, że angielska strona to około 600 tokenów (założenie; rzeczywiste strony mieszczą się w przedziale mniej więcej 500–700). Wtedy dokument o rozmiarze 100 tys. tokenów to 100 000 ÷ 600 ≈ 167 stron. To gruby kontrakt albo długi raport roczny, i mieści się w każdym modelu z tabeli z zapasem.

Szacunek na podstawie stron służy do planowania. Przed wysłaniem policz tokeny tokenizerem albo użyj przybliżonej reguły około czterech znaków na token dla angielskiego. Każdy model ma własny tokenizer, więc policzenie jest szacunkiem, a po żądaniu pole usage w odpowiedzi podaje dokładne liczby.

Uruchom sprawdzenie w kodzie#

Ten skrypt sprawdza kontrakt względem powyższych limitów, wysyła go i wypisuje, jak zakończyła się odpowiedź. Najpierw ustaw CHEAPTOKENS_API_KEY, a potem podmienić identyfikator modelu, aby wypróbować pozostałe.

import os
from openai import OpenAI

# context window, max answer tokens (CheapTokens, checked 1 Nov 2026)
LIMITS = {
    'zai-org/GLM-5.3-Flash': (390_000, 8_192),
    'deepseek-ai/DeepSeek-V4-Flash-0731': (380_000, 32_768),
    'MiniMaxAI/MiniMax-M2.7': (180_000, 8_192),
}

def fits(model, input_tokens, max_tokens):
    context, out_limit = LIMITS[model]
    return max_tokens <= out_limit and input_tokens + max_tokens <= context

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)

text = open('contract.txt', encoding='utf-8').read()
estimate = len(text) // 4   # rough: about 4 characters per token in English
model = 'zai-org/GLM-5.3-Flash'
max_tokens = 1500

if not fits(model, estimate, max_tokens):
    raise SystemExit('Does not fit: pick another model or split the text')

reply = client.chat.completions.create(
    model=model,
    max_tokens=max_tokens,
    messages=[
        {'role': 'system', 'content': 'Summarize contracts in 10 bullet points.'},
        {'role': 'user', 'content': text},
    ],
)
print(reply.choices[0].finish_reason)   # stop = ended on its own, length = cut by max_tokens
print(reply.usage.prompt_tokens, reply.usage.completion_tokens)

Jeśli zadziała, pierwsza linia wypisze stop, a druga pokaże, ile tokenów weszło i wyszło. Jeśli zobaczysz length, odpowiedź trafiła w max_tokens; ten artykuł wyjaśnia rozwiązanie. A jeśli żądanie zostanie odrzucone z powodu rozmiaru, żądanie zbyt długie: 400 vs 413 przeprowadzi Cię przez to.

Ile kosztuje jedno zadanie na 100 tys. tokenów#

Przyjmijmy, że streszczasz kontrakty. Każdy ma 100 000 tokenów, a streszczenie ma około 1500 tokenów (założenia, zmień je, aby pasowały do Twoich plików). Poniższa tabela jest aktywna: przelicza się na podstawie aktualnych cen i stawia referencję OpenRouter obok naszej.

Dokument jest tu drogą stroną, ponieważ wysyłasz znacznie więcej, niż dostajesz z powrotem. Dla jednego takiego zadania sumy wynoszą $0.0021 w GLM-5.3-Flash, $0.0017 w DeepSeek-V4-Flash i $0.0052 w MiniMax-M2.7. Licząc wejście i wyjście razem, wszystkie trzy wypadają taniej niż OpenRouter. Ceny są stałe dla modelu, bez godzin szczytu, więc nocna partia kosztuje tyle samo co dzienna.

Teraz przeskaluj to do swojego dnia. Przesuń suwaki do własnego obciążenia i odczytaj sumę:

Gdy odpowiedź jest długą częścią#

Streszczenia to łatwy przypadek: krótka odpowiedź mieści się wszędzie. Kłopoty zaczynają się, gdy model musi dużo napisać. Przyjmijmy, że masz instrukcję o rozmiarze 20 000 tokenów i prosisz o raport o rozmiarze 6000 tokenów na jej podstawie. To mieści się w każdym modelu (6000 ≤ 8192), a aktywna tabela pokazuje koszt:

Teraz poproś o pełne tłumaczenie tej samej instrukcji. Tłumaczenie ma mniej więcej tyle samo długości co oryginał, więc potrzebujesz miejsca na około 20 000 tokenów odpowiedzi. Ustaw max_tokens na 25 000: 20 000 + 25 000 = 45 000, dobrze w oknie 380 tys., a 25 000 ≤ 32 768, więc DeepSeek-V4-Flash przyjmie to w jednej odpowiedzi. Jedno takie zadanie kosztuje $0.0023. W modelach z limitem odpowiedzi 8192 tokenów podziel instrukcję na rozdziały i wysyłaj je po kolei.

Który do Twojego przypadku#

Jeśli nadal nie masz pewności, przepuść jeden prawdziwy dokument przez skrypt i odczytaj usage. Szersze porównanie trzech modeli według zadań znajdziesz w GLM vs DeepSeek vs MiniMax, a strona DeepSeek omawia DeepSeek-V4-Flash bardziej szczegółowo.