Biaya serah-terima multi-agen: berapa token yang digunakan rantai 3 agen

Tiga agen Anda menyelesaikan pekerjaan, dan tagihannya lebih besar dari yang terlihat. Alasannya sederhana: dengan serah-terima teks, setiap agen membayar untuk membaca semua yang ditulis agen sebelumnya. Rencana 1.500 token dibayar sekali saat perencana menulisnya, lalu lagi oleh pengode, lalu lagi oleh peninjau. Pangkas serah-terima, berikan setiap agen hanya yang dibutuhkannya, dan input setiap agen berikutnya menjadi lebih kecil.

Di bawah: contoh 3 agen yang dikerjakan dengan perhitungan tokennya, perkiraan biaya untuk 100 tugas sehari pada harga live, dan tiga perubahan yang bisa Anda lakukan hari ini. API chat-completions bersifat stateless, jadi setiap permintaan membawa konteks lengkapnya lagi (mengapa obrolan panjang lebih mahal dan cara kerja array messages mencakup dasar-dasarnya).

Di mana token menumpuk#

Katakan Anda menjalankan perencana, pengode, dan peninjau. Tugas plus instruksi adalah 1.000 token. Perencana menulis rencana 1.500 token, pengode menulis 3.000 token kode dan catatan, peninjau menulis putusan 800 token. Ini angka bulat untuk contoh, bukan pengukuran; ganti dengan milik Anda dari field usage (cara membacanya).

Input setiap agen adalah tugas plus setiap serah-terima yang diterimanya:

Rantai membaca 9.000 token untuk menghasilkan 5.300. Tambahkan agen keempat dan ia akan membaca tugas plus ketiga serah-terima, jadi input tumbuh dengan setiap lompatan, bukan hanya dengan satu serah-terima.

Berapa biaya 100 tugas sehari#

Token serah-terima ditagih sekali sebagai output, saat agen menulisnya, lalu sebagai input untuk setiap agen berikutnya yang membacanya. Token output dihargai lebih tinggi daripada token input, jadi dalam contoh ini jawaban adalah porsi tagihan yang lebih besar meskipun rantai membaca lebih banyak daripada menulis (token input vs output).

Satu tugas adalah 9.000 token masuk dan 5.300 keluar. Pada MiniMax-M2.7 itu $0.0012 per tugas. Untuk 100 tugas sehari, ini adalah harga live di seluruh model kami, di samping OpenRouter:

Secara total, dengan input dan output dihitung bersama, model CheapTokens di atas lebih murah daripada OpenRouter untuk rantai ini.

Ingin perhitungan untuk rantai Anda sendiri? Masukkan rata-rata permintaan satu agen ke kalkulator: sekitar 3.000 token masuk dan 1.800 keluar, diulang 300 kali, adalah 100 tugas dari tiga agen.

Tiga cara memperkecil tagihan#

1. Jadikan serah-terima catatan terstruktur yang singkat#

Perencana tidak perlu menulis esai untuk pengode. Minta field: tujuan, file, langkah, batasan. Katakan catatan singkat berisi delapan langkah satu baris memakan sekitar 400 token alih-alih 1.500 (sebuah asumsi: masukkan angka Anda sendiri dari usage), dan setiap agen berikutnya membaca catatan yang lebih kecil itu. Batasi jawaban dengan max_tokens, atur sedikit di atas catatan yang diharapkan, agar model yang cerewet tidak bisa menyelipkan esai itu kembali.

import os
from openai import OpenAI

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)
task = 'Add a --dry-run flag to the export command'

plan = client.chat.completions.create(
    model='deepseek-ai/DeepSeek-V4-Flash-0731',
    max_tokens=500,
    messages=[
        {'role': 'system', 'content': 'Reply with JSON only: {goal, files, steps, constraints}. At most 8 steps, one line each.'},
        {'role': 'user', 'content': task},
    ],
)
note = plan.choices[0].message.content
print(plan.choices[0].finish_reason, plan.usage.completion_tokens)

Jika finish_reason adalah length, catatan terpotong oleh batas: naikkan max_tokens sedikit atau perpendek skema (seperti apa error itu). Id model dan base URL ada di dokumentasi CheapTokens.

2. Berikan setiap agen hanya yang dibutuhkannya#

Jika peninjau memeriksa kode terhadap tugas, ia tidak perlu rencana: tugas dan kode sudah cukup. Jika ia juga memeriksa kode terhadap rencana, pertahankan rencana. Menghapus rencana dari konteksnya adalah perubahan satu baris di orkestrator Anda:

Dengan kedua perubahan (dan catatan 400 token, yang merupakan asumsi kami), rantai contoh menjadi perencana 1.000 masuk dan 400 keluar, pengode 1.000 + 400 = 1.400 masuk dan 3.000 keluar, peninjau 1.000 + 3.000 = 4.000 masuk dan 800 keluar. Itu 1.000 + 1.400 + 4.000 = 6.400 token masuk dan 400 + 3.000 + 800 = 4.200 keluar, dibandingkan 9.000 dan 5.300 sebelumnya. Sama 100 tugas sehari:

Untuk satu tugas pada MiniMax-M2.7 rantai yang dipangkas adalah $0.00095, turun dari $0.0012.

3. Beri model murah untuk peran singkat#

Perencana menulis jawaban singkat, jadi mulailah dari sana: coba GLM-5.3-Flash (konteks 390K, hingga 8.192 token output per jawaban) dan bandingkan hasilnya pada 10–20 tugas Anda sendiri. Pengode menulis jawaban terpanjang: DeepSeek-V4-Flash memungkinkan hingga 32.768 token output per jawaban. Karena setiap model berada pada satu saldo dengan satu harga pada jam berapa pun, mencampurnya dalam satu rantai hanya memerlukan string model yang berbeda per agen. Harga terkini untuk keduanya ada di tabel harga dan di halaman DeepSeek.

Mengapa tidak langsung meneruskan KV cache?#

Makalah SwaT (arXiv:2610.15095), yang dikirim pada 10 Oktober 2026 oleh Alabdulkareem, Tenison, Zhang, Zhu, Katz dan Gutfreund, mengusulkan tepat itu: agen saling menyerahkan state KV-cache alih-alih teks, sehingga penerima melewati pembacaan teks lagi. Menurut halaman abstrak (dibaca pada 31 Oktober 2026), penulis melaporkan akurasi rata-rata 40% lebih tinggi (dengan pemadatan KV-cache) daripada komunikasi teks-ke-teks dan waktu dinding rata-rata 4x lebih cepat di 17 benchmark, 12 LLM dan 6 keluarga model. Angka 40% itu adalah akurasi, bukan penghematan token atau harga.

Metode penelitian seperti ini membutuhkan akses ke cache internal model. Permintaan chat-completions menerima teks masuk dan memberikan teks keluar, jadi dengan API tuas Anda adalah teks: tiga perubahan di atas.

Sebelum Anda menskalakan ke ratusan eksekusi#

Untuk gambaran lebih besar tentang anggaran agen, lihat cara memperkirakan biaya agen AI dan mengapa agen menggunakan begitu banyak token.