AI ajanları neden bu kadar çok token kullanır (20 adımlık bir örnek)

Bir ajana tek bir soru sorarsınız, birkaç dakika çalışır ve kullanım sayfası yüz binlerce token gösterir. Bozulan bir şey yok. Ajan bir döngüdür ve döngünün her turu o ana kadar söylenen her şeyi (araç listesi, geçmiş, araçların döndürdüğü her ne varsa) girdi token'ı olarak yeniden gönderir. Yazdığı yanıt miniciktir. Tekrar tekrar okuduğu şey ise değildir.

Tek bir resimde ajan nedir#

Bir sohbet modeli bir kez yanıt verir. Ajan ise araçlarla birlikte bir döngü içindeki aynı modeldir: bir dosya oku, web'de ara, bir komut çalıştır. Ve model çağrılar arasında hiçbir şey hatırlamaz. Her seferinde telefonu kapattığında her şeyi unutan bir asistan düşünün: her geri aradığında notları baştan okursunuz, sonra bir satır eklersiniz. API tam olarak böyle çalışır.

Anthropic'in araç kullanımı dokümanları (26 Ekim 2026'da kontrol edildi) döngüyü şöyle tanımlar:

1. Uygulamanız kullanıcı mesajını ve araç listesini gönderir.
2. Model stop_reason: "tool_use" ve bir tool_use bloğu ile yanıt verir: hangi araç, hangi argümanlarla.
3. Uygulamanız aracı çalıştırır ve ikinci bir istek gönderir. Bu istek önceki mesajları, modelin araç çağrısını, bir tool_result bloğunu ve aynı araç listesini içerir.
4. Model yanıtlar ya da başka bir araç ister ve döngü yeniden başlar.

Aynı sayfa, araç kullanımı isteklerinin araçlar parametresi dahil gönderilen toplam girdi üzerinden, artı çıktı üzerinden faturalandırıldığını söyler. Yani 3. adım asla "sadece yeni kısım" değildir: tüm konuşmanın ta kendisidir.

Request 1  tools + system + task
Request 2  tools + system + task + call 1 + result 1
Request 3  tools + system + task + call 1 + result 1 + call 2 + result 2
...

Bu, uzun bir sohbetin neden daha pahalı olduğu ile aynı mekanizmadır, sadece daha hızlıdır. Bir sohbet siz yazdıkça bir mesaj büyür. Bir ajan ise her adımda iki blok büyür ve kimse hiçbir şey yazmaz.

Her adımda yanınızda taşınan üç şey#

Araç listesi. Her aracın adları, açıklamaları ve parametre şemaları, model bu turda hiçbirini kullanmasa bile her isteğe girer. Dokümanlar küçük bir ekleme yapar: araçlar açıkken API kendi araç kullanımı istemini ekler; Claude Sonnet 5.5, Opus 5.5 ve Haiku 5.5'te 286 token, diğer modellerde farklı sayılar.

Geçmiş. Göreviniz, modelin önceki araç çağrıları, notları.

Araç çıktısı. İşte sinsi olan bu. Ajanın okuduğu bir dosya, bir sayfa arama sonucu, bir test günlüğü: geçmişe bir kez girdiğinde, sonraki her adımda tekrar ödenir.

Bir token küçük bir metin parçasıdır, kabaca kısa bir kelime ya da bir kelimenin parçasıdır ve bu üçünün her biri bunlarla sayılır.

20 adımlık bir çalıştırma, sayılmış hali#

Diyelim ki üç araçlı (bir dosya oku, ara, testleri çalıştır) küçük bir kodlama ajanı çalıştırıyorsunuz ve ona 20 adım süren bir görev veriyorsunuz. Şu varsayımları alalım:

• araç tanımları: 1.500 token, sistem istemi: 500, göreviniz: 200, yani her istek 2.200 token ile başlar;
• her adımda model 150 token'lık bir araç çağrısı yazar ve araç 800 token döndürür;
• ikisi de geçmişe katılır, yani her adım bir sonraki isteğe 950 token ekler.

Çalıştırma toplamını bulmak için 20 isteğin tümünü toplayın. 2.200'lük taban 20 kez gönderilir ve turlar sonraki adımlar tarafından taşınır: 1. adım hiç taşımaz, 2. adım bir, ve böylece 19'a kadar, toplamda 190 tur eder.

20 × 2.200 = 44.000

950 × 190 = 180.500

44.000 + 180.500 = 224.500 girdi token'ı ve 20 × 150 = 3.000 çıktı token'ı.

Ajan 3.000 token yazdı ve 224.500 okudu. Çıktı token'ları her biri girdi token'larından daha pahalıdır (girdi ve çıktı token'ları sayfasına bakın), ancak o kadar azlar ki faturayı yine girdi tarafı belirler. İşte bu çalıştırmanın güncel fiyatlarla hali:

DeepSeek-V4-Flash'te böyle bir çalıştırma $0.0037, GLM-5.3-Flash'te $0.0046 tutar. Yüz çalıştırma 22.450.000 girdi ve 300.000 çıktı token'ı eder: DeepSeek-V4-Flash'te $0.367. Yukarıdaki tablo girdi ve çıktıyı birlikte sayar ve toplamda oradaki modeller OpenRouter'dan daha ucuza gelir.

Adım sayısı göründüğünden daha önemlidir. Aynı varsayımlarla 5 adımlık bir çalıştırma:

5 × 2.200 = 11.000

950 × 10 = 9.500

11.000 + 9.500 = 20.500 girdi token'ı. Dört kat adım, yaklaşık on bir kat girdi verdi, çünkü her yeni adım tüm eski adımları da yeniden okur.

Nereden kısılır: dört alışkanlık#

Bir araç sonucu tasarruf için en kolay yerdir. Diyelim ki 3. adımda bir test çalıştırması 4.000 token'lık bir günlük döndürdü. Bu günlük sonraki 17 istek tarafından yeniden gönderilir:

• önce: 4.000 × 17 = 68.000 girdi token'ı bu tek günlük tarafından taşınır;
• sonra, eğer araç yalnızca ilgili 40 satırı döndürürse (yaklaşık 400 token): 400 × 17 = 6.800.

Aynı görev, aynı yanıt, o tek sonuçtan gelen girdinin onda biri. Bu da dört alışkanlık verir:

• Araçlardan daha az döndürün. Hatanın etrafındaki satırlar, tüm günlük değil; fonksiyon, tüm dosya değil. Daha uzun bir bakış araç çıktısını bağlam dışında tutma yazısında.
• Ajana daha az araç verin. Her tanım her istekte taşınır.
• Adımları sınırlayın ve eski geçmiş artık önemli olmadığında yeni bir göreve başlayın.
• Her adımın kullanımını toplayın ve çalıştırmayı önceden seçtiğiniz bir bütçede durdurun. Tahmin tarafı için bir AI ajanının maliyeti nasıl tahmin edilir yazısına bakın.

Kendi çalıştırmanızı sayın#

Her yanıt, usage alanında kaç token aldığını ve verdiğini bildirir. Bunları tüm adımlar boyunca toplayın ve ajanınız için benim varsayımlarım yerine gerçek sayılara sahip olun. CheapTokens'e yönlendirilmiş OpenAI Python SDK ile bir taslak (messages ve tools ajanınızın kendisine ait):

from openai import OpenAI

client = OpenAI(base_url="https://api.cheaptokens.dev/v1", api_key="YOUR_API_KEY")

total_in = total_out = 0
for step in range(20):  # your agent loop
    resp = client.chat.completions.create(
        model="deepseek-ai/DeepSeek-V4-Flash-0731",
        messages=messages,
        tools=tools,
    )
    total_in += resp.usage.prompt_tokens
    total_out += resp.usage.completion_tokens
    # ...run the tool, append the result to messages

print(total_in, total_out)

İki toplam doğrudan yukarıdaki maliyet tablosuna girer. Bunun gibi uzun geçmişler için DeepSeek-V4-Flash size 380K bağlam penceresi ve yanıt başına 32.768'e kadar çıktı token'ı sunar, her saat aynı fiyatla; GLM-5.3-Flash ise 390K bağlam ve 8.192'ye kadar çıktı token'ına sahiptir. Kurulum dokümanlarda, her modelin güncel fiyatı fiyatlandırma sayfasında ve modelin kendi sayfası da var: ucuz DeepSeek.