Bakit muling binabasa ng isang AI agent ang buong kasaysayan nito sa bawat hakbang

Ang iyong agent ay tumakbo ng sampung minuto, at ang bill ay mas malaki kaysa sa hitsura ng gawain. Halos palagi ang dahilan ay pareho: walang natatandaan ang modelo sa pagitan ng mga tawag, kaya bawat hakbang ay ipinapadala muli ang buong pag-uusap hanggang ngayon bilang input. Ang isang 50-hakbang na sesyon ay nagbabayad para sa mga unang mensahe nito ng 50 beses, kaya mas mabilis lumaki ang gastos kaysa sa gawaing nagawa.

Ang isang pag-aayos na inanunsyo ng Anthropic para sa Claude Code noong 4–5 Nobyembre 2026 ay nagpapakita nito sa isang maliit na lugar. Sa ibaba: ano ang nagbago, ang aritmetika ng isang 50-hakbang na loop, at ano ang maaari mong gawin tungkol dito.

Isang status line na muling nagbasa ng lahat#

Maaaring magsimula ang Claude Code ng mga background subagent: mga helper agent na nagtatrabaho sa isang side job habang nagpapatuloy ka. Ang bawat isa ay nagpapakita ng isang linyang status, tulad ng 'running tests, 3 of 8 done'.

Ang ClaudeDevs account sa X ay nag-anunsyo ng pagbabago (ang post ay may petsang 5 Nobyembre 2026; sinasabi ng mga sekondaryang ulat na 4 o 5 Nobyembre). Ang status ay dating nagre-refresh tuwing 30 segundo, at ang bawat refresh ay muling nagbabasa ng buong pag-uusap ng subagent. Ngayon, ang Haiku 5.5 ay nagsusulat ng status mula sa maiikling tala, at inilalagay ng Anthropic iyon sa halos 99% na mas mura bawat update. Iyon ay isang per-update na figure, hindi per-session: ang tunay na gawain ng subagent ay nagbabasa pa rin ng kasaysayan nito.

Isipin kung ano ang ibig sabihin ng lumang paraan. Sabihin nating ang isang subagent ay may 60,000 token ng pag-uusap sa ika-dalawampung minuto. Ang status mismo ay marahil 30 token. Ngunit upang isulat ang 30 token na iyon, kailangang basahin muli ng modelo ang lahat ng 60,000, dalawang beses sa isang minuto, hangga't tumatakbo ang subagent.

Walang nangangailangan ng buong transcript upang sabihin ang 'running tests'. Sapat na ang ilang linya ng tala (ano ang ginagawa ko, ano ang tapos na). Iyon ang buong pag-aayos: bigyan ang isang side task ng mga tala, hindi ang transcript.

Bakit bawat hakbang ay muling nagpapadala ng kasaysayan#

Isipin ang isang liham sa isang taong nakakalimot sa iyo sa sandaling sumagot sila. Upang magpatuloy, ipinapadala mo muli ang buong sulat-kamay kasama ang bagong linya. Ang isang hakbang ng agent ay eksaktong ganoong tawag: ang system prompt, ang iyong gawain, bawat naunang sagot at bawat resulta ng tool ay pumapasok muli. (Ang bersyon ng chat ng kuwentong ito ay nasa bakit mas mahal ang isang mahabang AI chat.)

Lagyan natin ng numero. Sabihin nating ang system prompt at ang gawain ay kumukuha ng 3,000 token, at ang bawat hakbang ay nagdadagdag ng mga 2,000 (ang sagot ng modelo kasama ang output ng tool na binabasa nito). Ang hakbang n ay nagpapadala ng 3,000 + 2,000 × n token: 5,000 sa hakbang 1, 23,000 sa hakbang 10, 103,000 sa hakbang 50.

Ngayon pagsamahin ang lahat ng 50 hakbang. Ang lumalaking bahagi ay 2,000 × 1,275 = 2,550,000, kung saan ang 1,275 ay 1 + 2 + … + 50. Ang panimulang prompt, na ipinapadala tuwing oras, ay 50 × 3,000 = 150,000. Magkasama: 150,000 + 2,550,000 = 2,700,000 input token. Ang natapos na pag-uusap ay mayroon lamang 103,000. Nagpadala ka ng 2.7 milyong token sa modelo upang makakuha ng 103,000-token na transcript, at ang bill ay sumusunod sa unang numero.

Magkano ang gastos: isang gawain, isang araw#

Presyuhan ang parehong 50-hakbang na agent sa DeepSeek-V4-Flash. Ang average na hakbang ay nagpapadala ng 54,000 token, kaya 54,000 × 50 = 2,700,000 input token sa kabuuan, at ito ay nagsusulat ng mga 400 bawat hakbang (400 × 50 = 20,000). Ang buong gawain ay nagkakahalaga ng $0.0425. Narito ang parehong workload sa bawat modelo na mayroon kami, sa tabi ng OpenRouter:

Sa talahanayan, ang bawat modelo ay mas mura kaysa sa OpenRouter sa kabuuan, kasama ang input at output na binibilang nang magkasama.

Ngayon ang status line. Ang 120 update ay isang oras ng isang subagent, at ang bawat isa ay nagsusulat ng mga 30 token (30 × 120 = 3,600 output). Ang lumang paraan: 60,000 × 120 = 7,200,000 input token, higit sa dalawa at kalahati ng 50-hakbang na gawain sa itaas, na ginugol sa wala kundi isang status text. Sa isang 500-token na tala ito ay 500 × 120 = 60,000. Sa GLM-5.3-Flash iyon ay $0.144 laban sa $0.0013.

Subukan ang iyong sariling agent: token bawat hakbang, hakbang at gawain bawat araw.

Ang Base URL, key at isang unang request ay nasa CheapTokens docs; ang kasalukuyang presyo para sa bawat modelo ay nasa pricing page.

Apat na paraan upang bawasan ito#

Wala sa mga ito ang nangangailangan ng espesyal na tool. Ito ay isang ugali ng pagtatanong: kailangan ba talaga ng tawag na ito ang kasaysayan?

Ang pattern ng mga tala#

Magtabi ng ilang linya ng tala habang nagtatrabaho ang agent, at ibigay lamang ang mga iyon sa isang maliit na modelo kapag kailangan mo ng status o summary. Narito ito sa GLM-5.3-Flash (zai-org/GLM-5.3-Flash, 390K context, hanggang 8,192 output token bawat sagot):

import os
from openai import OpenAI

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)

notes = [
    'Task: fix failing tests in billing/',
    'Done: found 3 failing tests, fixed 2',
    'Now: running the third test',
]

reply = client.chat.completions.create(
    model='zai-org/GLM-5.3-Flash',
    max_tokens=100,
    messages=[
        {'role': 'system', 'content': 'Write a one-line status from the notes.'},
        {'role': 'user', 'content': '; '.join(notes)},
    ],
)
print(reply.choices[0].message.content)
print(reply.usage.prompt_tokens, reply.usage.completion_tokens)

Makakakuha ka ng isang maikling linya, at ang usage pair ay nagpapakita ng input sa sampu-sampung token, hindi sampu-sampung libo. Iyon ang parehong ideya ng pagbabago sa Claude Code, sa isang dosenang linya.

Aling ugali ang umaangkop sa iyong kaso?

Kung gumagamit ka ng Claude Code, i-update ito at tingnan ang changelog para sa tala sa status-line.

Para sa loop mismo, ang DeepSeek-V4-Flash (deepseek-ai/DeepSeek-V4-Flash-0731) ay nagbibigay sa iyo ng 380K context, hanggang 32,768 output token bawat sagot at isang presyo sa anumang oras. Ang 103,000-token na dulo ng aming halimbawa ay kasya sa window na iyon ng higit sa tatlong beses. Para sa mga tala at summary, GLM-5.3-Flash. Ang iba pang mga modelo ay nasa models page.