Mô hình nào vừa với tài liệu 100K token: giới hạn ngữ cảnh và đầu ra

Câu trả lời ngắn: một tài liệu 100K token vừa với cả ba mô hình trong một yêu cầu. Điều phân biệt chúng là khoảng trống xung quanh nó. GLM-5.3-Flash có cửa sổ ngữ cảnh 390K, DeepSeek-V4-Flash có 380K và có thể viết trả lại tới 32.768 token, MiniMax-M2.7 có 180K. Hai phép kiểm tra cho bạn biết nên dùng cái nào: tài liệu và câu trả lời có vừa cửa sổ không, và câu trả lời có vừa giới hạn đầu ra của mô hình không.

Các giới hạn dưới đây là của chính CheapTokens, được kiểm tra ngày 1 tháng 11 năm 2026, và chúng là mốc để đo yêu cầu của bạn khi bạn gọi https://api.cheaptokens.dev/v1. Tài liệu hướng dẫn cách kết nối, và bảng giá có đầy đủ danh sách giá.

Phép kiểm tra hai bước#

Cả hai quy tắc đều dùng những con số bạn có thể biết trước khi gửi bất cứ thứ gì:

1. Token đầu vào + max_tokens ≤ cửa sổ ngữ cảnh. Tài liệu và câu trả lời dùng chung một cửa sổ.
2. max_tokens ≤ giới hạn đầu ra của mô hình.

Cột cuối là cửa sổ trừ đi câu trả lời dài nhất, đọc K là 1.000: 390.000 − 8.192 = 381.808; 380.000 − 32.768 = 347.232; 180.000 − 8.192 = 171.808. Trên thực tế bạn hiếm khi yêu cầu câu trả lời dài nhất có thể, nên bạn có nhiều chỗ hơn cột đó thể hiện.

Đây là phép kiểm tra trên một trường hợp trông thực tế. Bạn có một log 200.000 token và muốn một bản phân tích 2.000 token: 200.000 + 2.000 = 202.000. Con số đó vừa cửa sổ 390K và 380K và không vừa 180K. Cùng một log, cùng một câu hỏi, và một trong ba đã bị loại.

Tài liệu của bạn thực sự lớn cỡ nào?#

Số trang là đơn vị tồi, token mới là đơn vị thật. Giả sử một trang tiếng Anh khoảng 600 token (một giả định; trang thực tế dao động khoảng 500 đến 700). Khi đó một tài liệu 100K token là 100.000 ÷ 600 ≈ 167 trang. Đó là một hợp đồng dày hoặc một báo cáo thường niên dài, và nó vừa mọi mô hình trong bảng với chỗ dư.

Ước lượng theo trang là để lập kế hoạch. Trước khi gửi, hãy đếm token bằng tokenizer, hoặc dùng quy tắc thô khoảng bốn ký tự mỗi token cho tiếng Anh. Mỗi mô hình có tokenizer riêng, nên con số đếm được là ước lượng, và sau yêu cầu, trường usage của phản hồi cho biết con số chính xác.

Chạy phép kiểm tra bằng code#

Script này kiểm tra một hợp đồng với các giới hạn ở trên, gửi nó đi, và in ra câu trả lời kết thúc thế nào. Đặt CHEAPTOKENS_API_KEY trước, và đổi id mô hình để thử các mô hình khác.

import os
from openai import OpenAI

# context window, max answer tokens (CheapTokens, checked 1 Nov 2026)
LIMITS = {
    'zai-org/GLM-5.3-Flash': (390_000, 8_192),
    'deepseek-ai/DeepSeek-V4-Flash-0731': (380_000, 32_768),
    'MiniMaxAI/MiniMax-M2.7': (180_000, 8_192),
}

def fits(model, input_tokens, max_tokens):
    context, out_limit = LIMITS[model]
    return max_tokens <= out_limit and input_tokens + max_tokens <= context

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)

text = open('contract.txt', encoding='utf-8').read()
estimate = len(text) // 4   # rough: about 4 characters per token in English
model = 'zai-org/GLM-5.3-Flash'
max_tokens = 1500

if not fits(model, estimate, max_tokens):
    raise SystemExit('Does not fit: pick another model or split the text')

reply = client.chat.completions.create(
    model=model,
    max_tokens=max_tokens,
    messages=[
        {'role': 'system', 'content': 'Summarize contracts in 10 bullet points.'},
        {'role': 'user', 'content': text},
    ],
)
print(reply.choices[0].finish_reason)   # stop = ended on its own, length = cut by max_tokens
print(reply.usage.prompt_tokens, reply.usage.completion_tokens)

Nếu chạy được, dòng đầu in stop và dòng thứ hai cho biết bao nhiêu token vào và ra. Nếu bạn thấy length, câu trả lời đã chạm max_tokens; bài viết này giải thích cách khắc phục. Và nếu yêu cầu bị từ chối vì kích thước, yêu cầu quá dài: 400 vs 413 hướng dẫn chi tiết.

Một job 100K tốn bao nhiêu#

Giả sử bạn tóm tắt hợp đồng. Mỗi cái là 100.000 token, và bản tóm tắt khoảng 1.500 token (giả định, hãy đổi cho khớp với tệp của bạn). Bảng dưới đây là trực tiếp: nó tính lại từ giá hiện tại và đặt tham chiếu OpenRouter bên cạnh giá của chúng tôi.

Tài liệu là phía tốn kém ở đây, vì bạn gửi đi nhiều hơn hẳn lượng nhận về. Với một job như vậy, tổng chi phí là $0.0021 trên GLM-5.3-Flash, $0.0017 trên DeepSeek-V4-Flash và $0.0052 trên MiniMax-M2.7. Tính cả đầu vào và đầu ra, cả ba đều rẻ hơn OpenRouter. Giá cố định theo từng mô hình, không có giờ cao điểm, nên một lô chạy ban đêm tốn bằng một lô chạy ban ngày.

Giờ hãy nhân lên theo ngày của bạn. Kéo thanh trượt về tải của bạn và đọc tổng:

Khi câu trả lời là phần dài#

Tóm tắt là trường hợp dễ: một câu trả lời ngắn vừa ở mọi nơi. Rắc rối bắt đầu khi mô hình phải viết nhiều. Giả sử bạn có một sách hướng dẫn 20.000 token và yêu cầu một báo cáo 6.000 token dựa trên nó. Con số đó vừa mọi mô hình (6.000 ≤ 8.192), và bảng trực tiếp cho thấy chi phí:

Giờ hãy yêu cầu dịch toàn bộ sách hướng dẫn đó. Bản dịch dài xấp xỉ bản gốc, nên bạn cần chỗ cho khoảng 20.000 token câu trả lời. Đặt max_tokens thành 25.000: 20.000 + 25.000 = 45.000, nằm gọn trong cửa sổ 380K, và 25.000 ≤ 32.768, nên DeepSeek-V4-Flash nhận nó trong một câu trả lời. Một job như vậy tốn $0.0023. Với các mô hình có giới hạn câu trả lời 8.192 token, hãy cắt sách hướng dẫn thành từng chương và gửi lần lượt.

Chọn cái nào cho trường hợp của bạn#

Nếu vẫn chưa chắc, hãy chạy một tài liệu thật qua script và đọc usage. Để so sánh rộng hơn ba mô hình theo tác vụ, xem GLM vs DeepSeek vs MiniMax, và trang DeepSeek trình bày chi tiết hơn về DeepSeek-V4-Flash.