Paano tantiyahin ang gastos ng isang AI agent

Ang isang AI agent ay hindi gumagawa ng isang kahilingan — gumagawa ito ng dose-dosenang, at bawat hakbang ay muling ipinapadala ang lumalaking pag-uusap. Iyon ang dahilan kung bakit ang mga singil ng agent ay pinangungunahan ng input tokens, at kung bakit ang "presyo bawat sagot" na intuwisyon mula sa mga chat app ay hindi gumagana. Narito kung paano tantiyahin ang gastos bago tumakbo ang agent, at kung saan talaga napupunta ang pera.

Ang pormula#

Ang gastos ng isang kahilingan ay input tokens na pinarami ng presyo ng input at idinagdag ang output tokens na pinarami ng presyo ng output. Ang mga presyo ay sinipi bawat milyong tokens:

request_cost = input_tokens / 1,000,000 × input_price
             + output_tokens / 1,000,000 × output_price

Ang gastos ng isang gawain ay ang kabuuan sa lahat ng kahilingang ginagawa ng agent habang nilulutas ito.

Bakit input-heavy ang mga agent#

Sa bawat hakbang, ipinapadala ng agent sa modelo:

• ang system prompt at ang mga depinisyon ng tool;
• ang buong kasaysayan hanggang ngayon — mga naunang mensahe, mga nakaraang sagot ng modelo at mga resulta ng tool (nilalaman ng file, output ng command, resulta ng paghahanap);
• ang bagong instruksiyon.

Karaniwang sumasagot ang modelo ng maikling mensahe o isang tool call. Pagkatapos, ang resulta ng tool ay idinadagdag sa kasaysayan at ang susunod na hakbang ay ipinapadala muli ang lahat. Kaya lumalaki ang input ng bawat hakbang, habang maliit ang output.

Isang halimbawang may kalkulasyon#

Mga kondisyon (mga palagay — palitan ang mga ito ng mga numero mula sa iyong agent):

• system prompt at mga depinisyon ng tool: 6,000 tokens;
• bawat hakbang ay nagdadagdag ng 1,500 tokens ng mga resulta ng tool at 500 tokens ng output ng modelo sa kasaysayan;
• ang gawain ay tumatagal ng 30 hakbang;
• modelo: DeepSeek-V4-Flash sa $0.0221 bawat 1M input tokens at $0.10 bawat 1M output tokens (kasalukuyang mga presyo).

Ang input ng hakbang n ay 6,000 + (n − 1) × 2,000 tokens. Sa 30 hakbang:

• kabuuang input: 30 × 6,000 + 2,000 × (0 + 1 + … + 29) = 180,000 + 870,000 = 1,050,000 tokens;
• kabuuang output: 30 × 500 = 15,000 tokens;
• gastos: 1.05 × $0.0221 + 0.015 × $0.10 ≈ $0.0247 bawat gawain.

Ang input ay 98.6% ng mga token at halos lahat ng gastos. Kung gaano kalaki ang dominasyon ng input ay depende sa senaryo: ang mahahabang sagot, mga nabuong file at mga reasoning model ay nagpapataas ng bahagi ng output, habang ang pinutol na kasaysayan at maikling output ng tool ay nagpapababa ng bahagi ng input.

Ang parehong gawain sa bawat modelo sa kasalukuyang mga presyo, kasama ang mga reference na presyo ng OpenRouter para sa paghahambing:

Tantiyahin ito sa code#

Ang parehong kalkulasyon bilang isang function — baguhin ang mga palagay at ang mga presyo:

def estimate(steps, base_tokens, tool_tokens, out_tokens, price_in, price_out):
    """Token totals and cost of one agent task. Prices: $ per 1M tokens."""
    grow = tool_tokens + out_tokens            # what each step adds to the history
    total_in = steps * base_tokens + grow * steps * (steps - 1) // 2
    total_out = steps * out_tokens
    cost = (total_in * price_in + total_out * price_out) / 1_000_000
    return total_in, total_out, round(cost, 5)

# example rates, $ per 1M tokens — put in the current ones from the pricing table below
print(estimate(30, 6_000, 1_500, 500, price_in=0.10, price_out=0.40))
# (1050000, 15000, 0.111)

Pansinin ang quadratic na termino: ang pagdodoble ng bilang ng mga hakbang ay halos nagpapaapat ng input. Ang mahahabang sesyon ay nagiging magastos hindi dahil sa anumang solong hakbang, kundi dahil ang bawat hakbang ay nagdadala ng buong kasaysayan.

Sukatin sa halip na manghula#

Bawat tugon ay may kasamang usage.prompt_tokens (input) at usage.completion_tokens (output). I-log ang mga ito para sa bawat hakbang ng isang tunay na gawain, i-multiply sa kasalukuyang mga rate, at mayroon ka nang aktwal na gastos. Ipinapakita rin ng dashboard ang paggamit ayon sa modelo at ayon sa araw.

Kasalukuyang mga rate — ang parehong data tulad ng nasa pricing page:

Pitong paraan upang bawasan ang gastos#

1. Magsimula ng bagong gawain para sa walang kaugnayang trabaho. Ang sariwang sesyon ay hindi nagdadala ng kasaysayan ng nauna.
2. Bigyan ang agent ng mga fragment, hindi buong file. Isang function at ang mga tumatawag nito sa halip na isang 3,000-linyang module.
3. Putulin ang output ng tool. Ang mahahabang log at output ng command ay nananatili sa kasaysayan sa natitirang bahagi ng sesyon — limitahan ang mga ito, halimbawa gamit ang | tail -n 50.
4. I-summarize ang mahahabang sesyon. Maraming agent ang makakapag-compact ng kasaysayan; gamitin ito bago humaba ang konteksto.
5. Limitahan ang haba ng sagot gamit ang max_tokens kung saan hindi kailangan ang mahahabang sagot.
6. Gamitin ang tamang modelo para sa hakbang. Ang mga rutinang hakbang ay hindi nangangailangan ng reasoning model.
7. Panatilihin ang prepaid na badyet. Ang balanse ay prepaid: kapag naubos ito, hihinto ang mga kahilingan sa HTTP 402 sa halip na magpatuloy sa walang hanggang singil.

Upang makita kung paano inihahambing ang parehong workload sa mga modelo at sa OpenRouter, gamitin ang paghahambing ng gastos sa home page.