Harga per 1 juta token vs biaya per tugas: cara membandingkan model AI

Bandingkan model berdasarkan biaya tugas yang selesai, bukan berdasarkan harga per 1 juta token. Biaya tugas = token masuk × harga input + token keluar × harga output, dikalikan dengan berapa kali percobaan yang dibutuhkan. Jadi model dengan harga per token setengahnya bisa tetap menagih Anda lebih besar.

Itulah kejutan yang biasa terjadi: agen selesai, daftar harga terlihat murah, dan tagihannya lebih besar dari yang seharusnya. Mari kita cari tahu di mana selisihnya bersembunyi.

Harga per token adalah harga per kilo#

Harga per kilo tepung tidak memberi tahu Anda apa pun tentang biaya makan malam. Anda perlu tahu berapa kilo yang dibutuhkan resep, dan apakah Anda membakar batch pertama lalu mulai lagi.

Model AI bekerja dengan cara yang sama. Harga per 1 juta token adalah harga per kilo. Tugasnya adalah makan malam. Setiap permintaan ditagih dari dua sisi: token yang Anda kirim (input) dan token yang ditulis model kembali (output). Kedua angka dikembalikan dalam field usage pada setiap respons dari API yang kompatibel dengan OpenAI seperti API CheapTokens di https://api.cheaptokens.dev/v1 (diperiksa 29 Oktober 2026), jadi Anda tidak perlu menebaknya.

Berikut rumus lengkapnya:

cost per task = attempts × (tokens in × input price + tokens out × output price)

Misalkan sebuah tugas mengirim 3.000 token dan menerima 1.000 kembali. Model A berharga $1 per 1 juta token untuk input dan $5 untuk output. Model B setengahnya: $0,50 dan $2,50. (Ini harga bulat karangan untuk perhitungan, bukan daftar harga siapa pun.)

Model A, satu percobaan:

• 3.000 × $1 ÷ 1.000.000 = $0,003 untuk input
• 1.000 × $5 ÷ 1.000.000 = $0,005 untuk output
• $0,003 + $0,005 = $0,008 per tugas

Model B tampak seperti barang murah. Tapi misalkan ia butuh tiga kali percobaan untuk mendapatkan hasil yang bisa dipakai, dan setiap percobaan berbiaya sama:

• 3.000 × $0,50 ÷ 1.000.000 = $0,0015 untuk input
• 1.000 × $2,50 ÷ 1.000.000 = $0,0025 untuk output
• $0,0015 + $0,0025 = $0,004 per percobaan
• 3 × $0,004 = $0,012 per tugas

Setengah harga per token, satu setengah kali harga per tugas. Hal yang sama terjadi tanpa percobaan ulang jika B sekadar menulis jawaban lebih panjang: dengan 3.000 token output dalam satu percobaan, 3.000 × $2,50 ÷ 1.000.000 = $0,0075, dan $0,0015 + $0,0075 = $0,009. Tetap lebih mahal dari $0,008 milik A.

Dan sebaliknya juga berlaku. Jika B berhasil pada percobaan pertama, biayanya $0,004 per tugas, setengah dari A. Harga per token hanya menang ketika jumlah token dan percobaan kurang lebih sama. Itulah tepatnya hal yang perlu diperiksa.

Ke mana token per tugas sebenarnya pergi#

Tiga hal menggerakkan jumlah token, dan tidak satu pun muncul di daftar harga.

1. Panjang jawaban. Model yang menjelaskan panjang lebar menulis lebih banyak token output daripada yang menjawab dalam satu baris.
2. Percobaan ulang. Jawaban yang gagal atau tidak bisa dipakai tetap memakan token, dan percobaan berikutnya membayar lagi.
3. Konteks yang dikirim ulang. API tidak mengingat: setiap langkah agen mengirim ulang instruksi, file, dan riwayat. Jika ini baru bagi Anda, mengapa obrolan panjang lebih mahal menunjukkan mekanismenya.

Yang ketiga adalah yang terbesar untuk agen. Ambil agen coding yang bekerja dalam 20 langkah. Asumsikan langkah agen yang berat: 20.000 token masuk dan 1.000 kembali. Untuk eksekusi yang lebih ringan dengan angka langkah demi langkah nyata, lihat mengapa agen AI memakai begitu banyak token. Jawabannya singkat. Inputnya tidak.

Jadi untuk pekerjaan ini sisi input yang menentukan tagihan, dan sisi output hampir tidak berpengaruh. Model dengan harga input murah bisa menang di sini meskipun harga outputnya terlihat biasa. Itu adalah sesuatu yang ditunjukkan daftar harga hanya ketika Anda membacanya dengan tugas Anda sendiri dalam pikiran.

Berikut pekerjaan persis itu, 20 langkah dengan 20.000 masuk dan 1.000 keluar, pada model yang tersedia di CheapTokens. Tabelnya langsung, jadi angkanya mengikuti harga saat ini, dan kolom OpenRouter ada untuk perbandingan. Dengan input dan output dihitung bersama, ketiganya lebih murah daripada OpenRouter secara total.

Untuk loop agen seperti ini, DeepSeek-V4-Flash adalah pilihan alami: konteks 380K, hingga 32.768 token output per jawaban, dan satu harga kapan pun sepanjang hari, jadi eksekusi malam berbiaya sama dengan siang. Seluruh pekerjaan di semua 20 langkah pada model ini menjadi $0.008. Lihat halaman model untuk detail dan tabel harga untuk setiap model.

Chatbot adalah cerita yang berlawanan#

Sekarang ambil bot dukungan. Misalkan ia menerima 1.000 permintaan sehari, dan masing-masing adalah pertanyaan 2.000 token dengan konteks dan jawaban 500 token. Tanpa loop, tanpa riwayat yang membesar, satu percobaan.

Di sini harga per token hampir sama dengan biaya per tugas, karena tidak ada yang mengalikannya. Pada GLM-5.3-Flash, dengan konteks 390K dan hingga 8.192 token output per jawaban, satu permintaan berbiaya $0.00006 dan seluruh hari dengan 1.000 permintaan berbiaya $0.06.

Jadi aturan praktisnya sederhana. Tugas singkat sekali jalan: harga per token adalah panduan yang wajar. Loop, pekerjaan yang rawan percobaan ulang, atau pekerjaan dengan jawaban panjang: hitung harga satu tugas penuh sebelum Anda memilih.

Ukur tugas Anda sendiri dalam sepuluh menit#

Angka Anda sendiri mengalahkan contoh apa pun di sini. Skrip di bawah mengirim satu permintaan dan mencetak apa yang sebenarnya dipakai dan berapa biayanya. Harga di dalamnya adalah contoh: gantikan dengan yang berlaku saat ini dari tabel harga.

from openai import OpenAI

client = OpenAI(base_url="https://api.cheaptokens.dev/v1", api_key="YOUR_KEY")

# example prices per 1M tokens, substitute current ones
PRICE_IN, PRICE_OUT = 1.00, 5.00

resp = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Flash-0731",
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: <your text>"}],
    max_tokens=300,
)
u = resp.usage
cost = (u.prompt_tokens * PRICE_IN + u.completion_tokens * PRICE_OUT) / 1_000_000
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

Saat berhasil Anda mendapat tiga angka dalam satu baris: token masuk, token keluar, dan biaya percobaan itu. Lalu:

1. Jalankan 20 tugas nyata Anda, bukan tugas mainan.
2. Jumlahkan biaya setiap percobaan, termasuk yang Anda buang.
3. Bagi dengan 20. Itulah biaya per tugas Anda.
4. Ulangi dengan model lain dan bandingkan kedua hasilnya.

Untuk eksekusi yang lebih panjang, melacak biaya token agen di Python menambahkan anggaran dan penghentian pada ide yang sama, dan berapa banyak token yang dipakai sebuah permintaan menunjukkan ukuran tipikal untuk memulai.

Pemeriksaan cepat#

Selanjutnya, token input vs output menjelaskan mengapa kedua sisi diberi harga berbeda, dan dokumentasi membawa Anda dari kunci ke permintaan pertama.