Model mana yang cocok untuk dokumen 100K token: batas konteks dan output

Jawaban singkat: dokumen 100K token masuk ke salah satu dari tiga model dalam satu permintaan. Yang membedakan adalah ruang di sekitarnya. GLM-5.3-Flash memiliki jendela konteks 390K, DeepSeek-V4-Flash memiliki 380K dan dapat menulis hingga 32.768 token kembali, MiniMax-M2.7 memiliki 180K. Dua pemeriksaan memberi tahu Anda mana yang harus digunakan: apakah dokumen dan jawaban muat di jendela, dan apakah jawaban muat dalam batas output model.

Batas di bawah ini adalah milik CheapTokens sendiri, diperiksa pada 1 November 2026, dan itulah yang menjadi ukuran permintaan Anda saat Anda memanggil https://api.cheaptokens.dev/v1. Dokumentasi menunjukkan cara terhubung, dan harga memiliki daftar harga lengkap.

Pemeriksaan dua langkah#

Kedua aturan menggunakan angka yang dapat Anda ketahui sebelum mengirim apa pun:

1. Token input + max_tokens ≤ jendela konteks. Dokumen dan jawaban berbagi satu jendela.
2. max_tokens ≤ batas output model.

Kolom terakhir adalah jendela dikurangi jawaban terpanjang, membaca K sebagai 1.000: 390.000 − 8.192 = 381.808; 380.000 − 32.768 = 347.232; 180.000 − 8.192 = 171.808. Dalam praktiknya Anda jarang meminta jawaban terpanjang yang mungkin, jadi Anda memiliki lebih banyak ruang daripada yang ditunjukkan kolom itu.

Berikut adalah pemeriksaan pada kasus yang terlihat nyata. Anda memiliki log 200.000 token dan ingin analisis 2.000 token: 200.000 + 2.000 = 202.000. Itu muat di jendela 390K dan 380K dan tidak muat di 180K. Log yang sama, pertanyaan yang sama, dan salah satu dari ketiganya sudah tersisih.

Seberapa besar dokumen Anda sebenarnya?#

Halaman adalah satuan yang buruk, token adalah yang sebenarnya. Katakanlah satu halaman bahasa Inggris sekitar 600 token (asumsi; halaman nyata berkisar sekitar 500 hingga 700). Maka dokumen 100K token adalah 100.000 ÷ 600 ≈ 167 halaman. Itu kontrak tebal atau laporan tahunan panjang, dan itu muat di setiap model dalam tabel dengan ruang lebih.

Perkiraan halaman adalah untuk perencanaan. Sebelum mengirim, hitung token dengan tokenizer, atau gunakan aturan kasar sekitar empat karakter per token untuk bahasa Inggris. Setiap model memiliki tokenizer sendiri, jadi hitungan adalah perkiraan, dan setelah permintaan bidang usage dari respons memberikan angka yang tepat.

Jalankan pemeriksaan dalam kode#

Skrip ini memeriksa kontrak terhadap batas di atas, mengirimnya, dan mencetak bagaimana jawaban berakhir. Setel CHEAPTOKENS_API_KEY terlebih dahulu, dan tukar ID model untuk mencoba yang lain.

import os
from openai import OpenAI

# context window, max answer tokens (CheapTokens, checked 1 Nov 2026)
LIMITS = {
    'zai-org/GLM-5.3-Flash': (390_000, 8_192),
    'deepseek-ai/DeepSeek-V4-Flash-0731': (380_000, 32_768),
    'MiniMaxAI/MiniMax-M2.7': (180_000, 8_192),
}

def fits(model, input_tokens, max_tokens):
    context, out_limit = LIMITS[model]
    return max_tokens <= out_limit and input_tokens + max_tokens <= context

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)

text = open('contract.txt', encoding='utf-8').read()
estimate = len(text) // 4   # rough: about 4 characters per token in English
model = 'zai-org/GLM-5.3-Flash'
max_tokens = 1500

if not fits(model, estimate, max_tokens):
    raise SystemExit('Does not fit: pick another model or split the text')

reply = client.chat.completions.create(
    model=model,
    max_tokens=max_tokens,
    messages=[
        {'role': 'system', 'content': 'Summarize contracts in 10 bullet points.'},
        {'role': 'user', 'content': text},
    ],
)
print(reply.choices[0].finish_reason)   # stop = ended on its own, length = cut by max_tokens
print(reply.usage.prompt_tokens, reply.usage.completion_tokens)

Jika berhasil, baris pertama mencetak stop dan baris kedua menunjukkan berapa banyak token yang masuk dan keluar. Jika Anda melihat length, jawaban mencapai max_tokens; artikel ini menjelaskan perbaikannya. Dan jika permintaan ditolak karena ukuran, permintaan terlalu panjang: 400 vs 413 membahasnya.

Berapa biaya satu pekerjaan 100K#

Katakanlah Anda merangkum kontrak. Masing-masing 100.000 token, dan ringkasannya sekitar 1.500 token (asumsi, ubah agar sesuai dengan file Anda). Tabel di bawah ini langsung: ia menghitung ulang dari harga saat ini dan menempatkan referensi OpenRouter di samping milik kami.

Dokumen adalah sisi yang mahal di sini, karena Anda mengirim jauh lebih banyak daripada yang Anda terima kembali. Untuk satu pekerjaan seperti itu totalnya adalah $0.0021 pada GLM-5.3-Flash, $0.0017 pada DeepSeek-V4-Flash dan $0.0052 pada MiniMax-M2.7. Dengan input dan output dihitung bersama, ketiganya lebih murah daripada OpenRouter. Harga tetap per model tanpa jam sibuk, jadi batch malam sama biayanya dengan siang hari.

Sekarang skalakan ke hari Anda. Geser slider ke beban Anda sendiri dan baca totalnya:

Ketika jawaban adalah bagian yang panjang#

Ringkasan adalah kasus yang mudah: jawaban pendek muat di mana saja. Masalah dimulai ketika model harus menulis banyak. Katakanlah Anda memiliki manual 20.000 token dan Anda meminta laporan 6.000 token berdasarkan itu. Itu muat di setiap model (6.000 ≤ 8.192), dan tabel langsung menunjukkan biayanya:

Sekarang minta terjemahan penuh dari manual yang sama. Terjemahan berjalan sekitar sepanjang aslinya, jadi Anda perlu ruang untuk sekitar 20.000 token jawaban. Setel max_tokens ke 25.000: 20.000 + 25.000 = 45.000, jauh di dalam jendela 380K, dan 25.000 ≤ 32.768, jadi DeepSeek-V4-Flash menerimanya dalam satu jawaban. Satu pekerjaan seperti itu biayanya $0.0023. Untuk model dengan batas jawaban 8.192 token, potong manual menjadi bab dan kirim satu per satu.

Mana yang untuk kasus Anda#

Jika Anda masih ragu, jalankan satu dokumen nyata melalui skrip dan baca usage. Untuk perbandingan yang lebih luas dari ketiga model berdasarkan tugas, lihat GLM vs DeepSeek vs MiniMax, dan halaman DeepSeek mencakup DeepSeek-V4-Flash secara lebih rinci.