Çok ajanlı devir maliyeti: 3 ajanlı bir zincir token olarak ne kullanır

Üç ajanınız işi bitirdi ve fatura, işin göründüğünden daha büyük. Nedeni basit: metin devirleriyle her ajan, kendinden önceki ajanların yazdığı her şeyi okumak için ödeme yapar. 1.500 token'lık bir plan, planlayıcı yazdığında bir kez, sonra kodlayıcı tarafından bir kez daha, sonra gözden geçiren tarafından bir kez daha ödenir. Devri kısaltın, her ajana yalnızca ihtiyacı olanı verin ve sonraki her ajanın girdisi küçülsün.

Aşağıda: token matematiğiyle işlenmiş 3 ajanlı bir örnek, canlı fiyatlarla günde 100 görev için bir maliyet tahmini ve bugün yapabileceğiniz üç değişiklik. Sohbet tamamlama API'leri durumsuzdur, bu yüzden her istek tam bağlamını yeniden taşır (uzun bir sohbetin neden daha pahalı olduğu ve messages dizisinin nasıl çalıştığı temelleri kapsar).

Token'ların biriktiği yer#

Bir planlayıcı, bir kodlayıcı ve bir gözden geçiren çalıştırdığınızı varsayalım. Görev artı talimatlar 1.000 token. Planlayıcı 1.500 token'lık bir plan yazar, kodlayıcı 3.000 token'lık kod ve not yazar, gözden geçiren 800 token'lık bir karar yazar. Bunlar örnek için yuvarlak sayılardır, bir ölçüm değildir; kendi değerlerinizi usage alanından alın (nasıl okunacağı).

Her ajanın girdisi, görev artı aldığı her devirdir:

Zincir, 5.300 üretmek için 9.000 token okur. Dördüncü bir ajan ekleyin, görevi artı üç devrin tamamını okurdu, yani girdi her sıçramada yalnızca bir devir kadar değil, büyür.

Günde 100 görevin maliyeti#

Bir devir token'ı, ajan onu yazdığında çıktı olarak bir kez, sonra onu okuyan her sonraki ajan için girdi olarak faturalandırılır. Çıktı token'ları girdi token'larından daha yüksek fiyatlanır, bu yüzden bu örnekte zincir yazdığından fazlasını okusa da yanıtlar faturanın daha büyük payıdır (girdi ve çıktı token'ları).

Bir görev 9.000 token girdi ve 5.300 çıktıdır. MiniMax-M2.7'de bu, görev başına $0.0012 eder. Günde 100 görev için, modellerimiz genelinde canlı fiyatlar, OpenRouter'ın yanında:

Toplamda, girdi ve çıktı birlikte sayıldığında, yukarıdaki CheapTokens modelleri bu zincir için OpenRouter'dan daha ucuza gelir.

Kendi zinciriniz için hesaplamayı mı istiyorsunuz? Hesaplayıcıya bir ajanın ortalama isteğini girin: yaklaşık 3.000 token girdi ve 1.800 çıktı, 300 kez tekrarlanırsa, üç ajanlı 100 görev eder.

Faturayı küçültmenin üç yolu#

1. Devri kısa ve yapılandırılmış bir nota dönüştürün#

Planlayıcının kodlayıcı için bir deneme yazması gerekmez. Alanlar isteyin: hedef, dosyalar, adımlar, kısıtlar. Sekiz tek satırlık adımdan oluşan kısa bir notun 1.500 yerine yaklaşık 400 token tuttuğunu varsayalım (bir varsayım: kendi sayınızı usage alanından alın) ve sonraki her ajan bu daha küçük notu okur. Yanıtı max_tokens ile sınırlayın, beklenen notun biraz üzerinde ayarlayın, böylece konuşkan bir model denemeyi gizlice geri sokamaz.

import os
from openai import OpenAI

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)
task = 'Add a --dry-run flag to the export command'

plan = client.chat.completions.create(
    model='deepseek-ai/DeepSeek-V4-Flash-0731',
    max_tokens=500,
    messages=[
        {'role': 'system', 'content': 'Reply with JSON only: {goal, files, steps, constraints}. At most 8 steps, one line each.'},
        {'role': 'user', 'content': task},
    ],
)
note = plan.choices[0].message.content
print(plan.choices[0].finish_reason, plan.usage.completion_tokens)

finish_reason değeri length ise, not sınır tarafından kesilmiştir: max_tokens değerini biraz artırın veya şemayı kısaltın (bu hatanın nasıl göründüğü). Model kimliği ve temel URL CheapTokens belgelerinde.

2. Her ajana yalnızca ihtiyacı olanı verin#

Gözden geçiren kodu göreve göre kontrol ediyorsa, plana ihtiyacı yoktur: görev ve kod yeterlidir. Kodu plana göre de kontrol ediyorsa, planı tutun. Planı bağlamından çıkarmak, orkestratörünüzde tek satırlık bir değişikliktir:

Her iki değişiklikle (ve varsayımımız olan 400 token'lık notla), örnek zincir şöyle olur: planlayıcı 1.000 girdi ve 400 çıktı, kodlayıcı 1.000 + 400 = 1.400 girdi ve 3.000 çıktı, gözden geçiren 1.000 + 3.000 = 4.000 girdi ve 800 çıktı. Bu, önceki 9.000 ve 5.300'e karşılık 1.000 + 1.400 + 4.000 = 6.400 token girdi ve 400 + 3.000 + 800 = 4.200 çıktı eder. Aynı günde 100 görev:

MiniMax-M2.7'de bir görev için kısaltılmış zincir $0.00095, $0.0012 değerinden düşmüş durumda.

3. Kısa rollere ucuz bir model verin#

Planlayıcı kısa yanıtlar yazar, bu yüzden oradan başlayın: GLM-5.3-Flash'i (390K bağlam, yanıt başına 8.192'ye kadar çıktı token'ı) deneyin ve sonucu kendi görevlerinizden 10–20'sinde karşılaştırın. Kodlayıcı en uzun yanıtları yazar: DeepSeek-V4-Flash yanıt başına 32.768'e kadar çıktı token'ına izin verir. Her model her saatte tek fiyatla tek bakiyede durduğundan, bunları tek bir zincirde karıştırmak ajan başına yalnızca farklı bir model dizesi gerektirir. Her ikisinin güncel fiyatları fiyatlandırma tablosunda ve DeepSeek sayfasında.

Neden sadece KV önbelleğini geçirmiyoruz?#

10 Ekim 2026'da Alabdulkareem, Tenison, Zhang, Zhu, Katz ve Gutfreund tarafından gönderilen SwaT (arXiv:2610.15095) makalesi tam da bunu öneriyor: ajanlar birbirlerine metin yerine KV önbellek durumunu devrediyor, böylece alıcı metni yeniden okumayı atlıyor. Özet sayfasına göre (31 Ekim 2026'da okundu), yazarlar 17 kıyaslama, 12 LLM ve 6 model ailesi genelinde metinden metne iletişime kıyasla %40 daha yüksek ortalama doğruluk (KV önbellek sıkıştırmasıyla) ve 4 kat daha hızlı ortalama duvar saati süresi bildiriyor. %40 doğruluktur, token veya fiyat tasarrufu değil.

Bunun gibi bir araştırma yöntemi, modelin iç önbelleğine erişim gerektirir. Bir sohbet tamamlama isteği metin alır ve metin verir, bu yüzden bir API ile kaldıracınız metindir: yukarıdaki üç değişiklik.

Yüzlerce çalıştırmaya ölçeklemeden önce#

Ajan bütçelerinin daha geniş resmi için bir AI ajanının maliyeti nasıl tahmin edilir ve ajanlar neden bu kadar çok token kullanır yazılarına bakın.