Какая модель потянет документ на 100K токенов: контекст и ответ

Коротко: документ на 100K токенов войдёт в любую из трёх моделей за один запрос. Разница в запасе вокруг него. У GLM-5.3-Flash окно контекста 390K, у DeepSeek-V4-Flash 380K и ответ до 32 768 токенов, у MiniMax-M2.7 180K. Выбрать помогают две проверки: помещаются ли документ и ответ в окно и укладывается ли ответ в лимит модели.

Лимиты ниже — CheapTokens, проверены 1 ноября 2026 года; именно по ним оценивается ваш запрос к https://api.cheaptokens.dev/v1. Как подключиться — в документации, все цены — на странице тарифов.

Две проверки перед запросом#

Обе используют числа, которые известны ещё до отправки:

1. Токены документа + max_tokens ≤ окно контекста. Документ и ответ делят одно окно.
2. max_tokens ≤ лимит ответа модели.

Последний столбец — окно минус самый длинный ответ, K читаем как 1 000: 390 000 − 8 192 = 381 808; 380 000 − 32 768 = 347 232; 180 000 − 8 192 = 171 808. На деле самый длинный ответ нужен редко, так что запас у вас обычно больше.

Посмотрим на жизненном случае. Есть лог на 200 000 токенов, нужен разбор на 2 000: 200 000 + 2 000 = 202 000. Это помещается в окна 390K и 380K и не помещается в 180K. Тот же лог, тот же вопрос — и одна модель из трёх уже отпала.

Сколько в вашем документе на самом деле#

Страницы — неудобная мера, настоящая — токены. Допустим, страница английского текста — около 600 токенов (допущение; реально от 500 до 700). Тогда документ на 100K токенов — это 100 000 ÷ 600 ≈ 167 страниц. Толстый договор или длинный годовой отчёт, и он помещается в каждую модель из таблицы с запасом.

Оценка по страницам нужна для планирования. Перед отправкой посчитайте токены токенайзером или возьмите грубое правило: около четырёх символов на токен в английском тексте. У каждой модели свой токенайзер, поэтому подсчёт — оценка, а точные числа после запроса покажет поле usage в ответе.

Проверка в коде#

Скрипт сверяет договор с лимитами выше, отправляет его и печатает, чем закончился ответ. Сначала задайте CHEAPTOKENS_API_KEY, а чтобы попробовать другие модели, поменяйте id.

import os
from openai import OpenAI

# окно контекста, макс. токенов ответа (CheapTokens, проверено 1 ноя 2026)
LIMITS = {
    'zai-org/GLM-5.3-Flash': (390_000, 8_192),
    'deepseek-ai/DeepSeek-V4-Flash-0731': (380_000, 32_768),
    'MiniMaxAI/MiniMax-M2.7': (180_000, 8_192),
}

def fits(model, input_tokens, max_tokens):
    context, out_limit = LIMITS[model]
    return max_tokens <= out_limit and input_tokens + max_tokens <= context

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)

text = open('contract.txt', encoding='utf-8').read()
estimate = len(text) // 4   # грубо: около 4 символов на токен в английском
model = 'zai-org/GLM-5.3-Flash'
max_tokens = 1500

if not fits(model, estimate, max_tokens):
    raise SystemExit('Не помещается: возьмите другую модель или разбейте текст')

reply = client.chat.completions.create(
    model=model,
    max_tokens=max_tokens,
    messages=[
        {'role': 'system', 'content': 'Summarize contracts in 10 bullet points.'},
        {'role': 'user', 'content': text},
    ],
)
print(reply.choices[0].finish_reason)   # stop = закончил сам, length = обрезан по max_tokens
print(reply.usage.prompt_tokens, reply.usage.completion_tokens)

Если всё в порядке, первая строка напечатает stop, вторая — сколько токенов ушло и пришло. Увидели length — ответ упёрся в max_tokens; как исправить, разобрано в статье про обрезанный ответ. А если запрос отклонён по размеру, смотрите разбор 400 и 413.

Сколько стоит одна задача на 100K#

Допустим, вы пересказываете договоры. Каждый — 100 000 токенов, пересказ — около 1 500 токенов (допущения, подставьте свои). Таблица ниже живая: она пересчитывается по текущим ценам и показывает рядом справочную цену OpenRouter.

Дорогая сторона здесь — документ: вы отправляете гораздо больше, чем получаете. Одна такая задача выходит в $0.0021 на GLM-5.3-Flash, $0.0017 на DeepSeek-V4-Flash и $0.0052 на MiniMax-M2.7. Если считать вход и выход вместе, все три дешевле OpenRouter. Цены на модели фиксированные, пиковых часов нет, поэтому ночной пакет стоит столько же, сколько дневной.

Теперь прикиньте свой день. Подвигайте ползунки под свою нагрузку и посмотрите итог:

Когда длинный именно ответ#

Пересказ — лёгкий случай: короткий ответ помещается везде. Сложности начинаются, когда модели нужно много писать. Допустим, есть руководство на 20 000 токенов и нужен отчёт на 6 000 токенов по нему. Он укладывается в каждую модель (6 000 ≤ 8 192), а стоимость показывает живая таблица:

Теперь попросим полный перевод того же руководства. Перевод получается примерно такой же длины, как оригинал, значит, нужен запас под около 20 000 токенов ответа. Поставьте max_tokens 25 000: 20 000 + 25 000 = 45 000, это далеко в пределах окна 380K, и 25 000 ≤ 32 768, так что DeepSeek-V4-Flash отдаст всё одним ответом. Одна такая задача выходит в $0.0023. Для моделей с лимитом ответа 8 192 токена разрежьте руководство на главы и отправляйте по одной.

Какую выбрать#

Если сомневаетесь, прогоните один настоящий документ через скрипт и прочитайте usage. Более общее сравнение трёх моделей по задачам — в статье GLM vs DeepSeek vs MiniMax.