Bir yapay zeka ajanının maliyeti nasıl tahmin edilir

Bir yapay zeka ajanı tek bir istek yapmaz — düzinelerce istek yapar ve her adımda büyüyen konuşmayı yeniden gönderir. Bu yüzden ajan faturalarına giriş token'ları hakimdir ve sohbet uygulamalarındaki "cevap başına fiyat" sezgisi işe yaramaz. İşte ajan çalışmadan önce maliyeti nasıl tahmin edeceğiniz ve paranın gerçekte nereye gittiği.

Formül#

Bir isteğin maliyeti, giriş token'ları çarpı giriş fiyatı artı çıkış token'ları çarpı çıkış fiyatıdır. Fiyatlar milyon token başına verilir:

request_cost = input_tokens / 1,000,000 × input_price
             + output_tokens / 1,000,000 × output_price

Bir görevin maliyeti, ajanın onu çözerken yaptığı tüm isteklerin toplamıdır.

Ajanlar neden giriş ağırlıklıdır#

Her adımda ajan modele şunları gönderir:

• sistem istemi ve araç tanımları;
• şimdiye kadarki tüm geçmiş — önceki mesajlar, modelin önceki yanıtları ve araç sonuçları (dosya içerikleri, komut çıktısı, arama sonuçları);
• yeni talimat.

Model genellikle kısa bir mesaj veya bir araç çağrısıyla yanıt verir. Sonra araç sonucu geçmişe eklenir ve bir sonraki adım her şeyi yeniden gönderir. Böylece her adımın girişi büyürken çıkış küçük kalır.

İşlenmiş bir örnek#

Koşullar (varsayımlar — bunları kendi ajanınızdaki sayılarla değiştirin):

• sistem istemi ve araç tanımları: 6.000 token;
• her adım geçmişe 1.500 token araç sonucu ve 500 token model çıktısı ekler;
• görev 30 adım sürer;
• model: DeepSeek-V4-Flash, 1M giriş token'ı başına $0.0221 ve 1M çıkış token'ı başına $0.10 (güncel fiyatlar).

n adımının girişi 6.000 + (n − 1) × 2.000 token'dır. 30 adım boyunca:

• toplam giriş: 30 × 6.000 + 2.000 × (0 + 1 + … + 29) = 180.000 + 870.000 = 1.050.000 token;
• toplam çıkış: 30 × 500 = 15.000 token;
• maliyet: 1,05 × $0.0221 + 0,015 × $0.10 ≈ görev başına $0.0247.

Giriş, token'ların %98,6'sıdır ve maliyetin neredeyse tamamıdır. Girişin ne kadar baskın olduğu senaryoya bağlıdır: uzun yanıtlar, üretilen dosyalar ve akıl yürütme modelleri çıkış payını artırırken kısaltılmış bir geçmiş ve kısa araç çıktısı giriş payını düşürür.

Aynı görev, güncel fiyatlarla her modelde, karşılaştırma için OpenRouter'ın referans fiyatlarıyla birlikte:

Kodda tahmin edin#

Aynı hesaplama bir fonksiyon olarak — varsayımları ve fiyatları değiştirin:

def estimate(steps, base_tokens, tool_tokens, out_tokens, price_in, price_out):
    """Token totals and cost of one agent task. Prices: $ per 1M tokens."""
    grow = tool_tokens + out_tokens            # what each step adds to the history
    total_in = steps * base_tokens + grow * steps * (steps - 1) // 2
    total_out = steps * out_tokens
    cost = (total_in * price_in + total_out * price_out) / 1_000_000
    return total_in, total_out, round(cost, 5)

# example rates, $ per 1M tokens — put in the current ones from the pricing table below
print(estimate(30, 6_000, 1_500, 500, price_in=0.10, price_out=0.40))
# (1050000, 15000, 0.111)

Karesel terime dikkat edin: adım sayısını iki katına çıkarmak girişi kabaca dört katına çıkarır. Uzun oturumlar tek bir adım yüzünden değil, her adımın tüm geçmişi taşıması yüzünden pahalı hale gelir.

Tahmin etmek yerine ölçün#

Her yanıt usage.prompt_tokens (giriş) ve usage.completion_tokens (çıkış) içerir. Bunları gerçek bir görevin her adımı için kaydedin, güncel oranlarla çarpın ve gerçek maliyeti elde edin. Panel ayrıca modele ve güne göre kullanımı gösterir.

Güncel oranlar — fiyatlandırma sayfasındaki verilerin aynısı:

Maliyeti düşürmenin yedi yolu#

1. İlgisiz işler için yeni bir görev başlatın. Yeni bir oturum öncekinin geçmişini taşımaz.
2. Ajana tüm dosyaları değil, parçaları verin. 3.000 satırlık bir modül yerine bir fonksiyon ve onu çağıranlar.
3. Araç çıktısını kısaltın. Uzun günlükler ve komut çıktıları oturumun geri kalanında geçmişte kalır — bunları sınırlayın, örneğin | tail -n 50 ile.
4. Uzun oturumları özetleyin. Birçok ajan geçmişi sıkıştırabilir; bağlam uzamadan önce bunu kullanın.
5. Yanıt uzunluğunu sınırlayın — uzun yanıtların gerekmediği yerlerde max_tokens ile.
6. Adım için doğru modeli kullanın. Rutin adımlar akıl yürütme modeli gerektirmez.
7. Ön ödemeli bir bütçe tutun. Bakiye ön ödemelidir: tükendiğinde istekler açık uçlu bir fatura biriktirmek yerine HTTP 402 ile durur.

Aynı iş yükünün modeller arasında ve OpenRouter ile nasıl karşılaştırıldığını görmek için ana sayfadaki maliyet karşılaştırmasını kullanın.