Вартість передачі між агентами: скільки токенів використовує ланцюжок із 3 агентів

Три ваші агенти виконали роботу, і рахунок більший, ніж здається. Причина проста: з текстовими передачами кожен агент платить за читання всього, що написали агенти до нього. План на 1 500 токенів оплачується один раз, коли планувальник його пише, потім знову кодером, а потім знову рецензентом. Скоротіть передачу, дайте кожному агенту лише те, що йому потрібно, і вхідні дані кожного наступного агента зменшаться.

Нижче: робочий приклад із 3 агентами та його підрахунок токенів, оцінка вартості для 100 завдань на день за поточними цінами та три зміни, які ви можете зробити вже сьогодні. API чат-завершень не зберігають стан, тому кожен запит знову несе повний контекст (чому довгий чат коштує дорожче та як працює масив повідомлень охоплюють основи).

Де накопичуються токени#

Припустімо, ви запускаєте планувальник, кодера та рецензента. Завдання плюс інструкції — 1 000 токенів. Планувальник пише план на 1 500 токенів, кодер пише 3 000 токенів коду та нотаток, рецензент пише вердикт на 800 токенів. Це круглі числа для прикладу, а не вимірювання; підставте свої з поля usage (як його читати).

Вхідні дані кожного агента — це завдання плюс кожна передача, яку він отримує:

Ланцюжок читає 9 000 токенів, щоб створити 5 300. Додайте четвертого агента, і він читатиме завдання плюс усі три передачі, тож вхідні дані зростають з кожним кроком, а не лише на одну передачу.

Скільки коштують 100 завдань на день#

Токен передачі оплачується один раз як вихідний, коли агент його пише, а потім як вхідний для кожного наступного агента, який його читає. Вихідні токени коштують дорожче за вхідні, тому в цьому прикладі відповіді становлять більшу частку рахунку, хоча ланцюжок читає більше, ніж пише (вхідні проти вихідних токенів).

Одне завдання — це 9 000 токенів на вході та 5 300 на виході. На MiniMax-M2.7 це $0.0012 за завдання. Для 100 завдань на день ось поточні ціни на наших моделях поряд з OpenRouter:

Загалом, з урахуванням вхідних і вихідних разом, моделі CheapTokens вище виходять дешевшими за OpenRouter для цього ланцюжка.

Хочете розрахунок для власного ланцюжка? Введіть середній запит одного агента в калькулятор: приблизно 3 000 токенів на вході та 1 800 на виході, повторений 300 разів, — це 100 завдань із трьома агентами.

Три способи зменшити рахунок#

1. Зробіть передачу короткою структурованою нотаткою#

Планувальнику не потрібно писати есе для кодера. Попросіть поля: мета, файли, кроки, обмеження. Скажімо, коротка нотатка з восьми однорядкових кроків займає близько 400 токенів замість 1 500 (припущення: підставте своє число з usage), і кожен наступний агент читає цю меншу нотатку. Обмежте відповідь за допомогою max_tokens, встановіть трохи вище очікуваної нотатки, щоб балакуча модель не могла проштовхнути есе назад.

import os
from openai import OpenAI

client = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)
task = 'Add a --dry-run flag to the export command'

plan = client.chat.completions.create(
    model='deepseek-ai/DeepSeek-V4-Flash-0731',
    max_tokens=500,
    messages=[
        {'role': 'system', 'content': 'Reply with JSON only: {goal, files, steps, constraints}. At most 8 steps, one line each.'},
        {'role': 'user', 'content': task},
    ],
)
note = plan.choices[0].message.content
print(plan.choices[0].finish_reason, plan.usage.completion_tokens)

Якщо finish_reason дорівнює length, нотатку було обрізано обмеженням: трохи збільште max_tokens або скоротіть схему (як виглядає ця помилка). Ідентифікатор моделі та базовий URL є в документації CheapTokens.

2. Передавайте кожному агенту лише те, що йому потрібно#

Якщо рецензент перевіряє код на відповідність завданню, йому не потрібен план: завдання та код достатньо. Якщо він також перевіряє код на відповідність плану, залиште план. Вилучення плану з його контексту — це зміна в один рядок у вашому оркестраторі:

З обома змінами (і нотаткою на 400 токенів, що є нашим припущенням) приклад ланцюжка стає таким: планувальник 1 000 на вході та 400 на виході, кодер 1 000 + 400 = 1 400 на вході та 3 000 на виході, рецензент 1 000 + 3 000 = 4 000 на вході та 800 на виході. Це 1 000 + 1 400 + 4 000 = 6 400 токенів на вході та 400 + 3 000 + 800 = 4 200 на виході, проти 9 000 і 5 300 раніше. Ті самі 100 завдань на день:

Для одного завдання на MiniMax-M2.7 скорочений ланцюжок коштує $0.00095, знижено з $0.0012.

3. Дайте коротким ролям дешеву модель#

Планувальник пише короткі відповіді, тож почніть із цього: спробуйте GLM-5.3-Flash (контекст 390K, до 8 192 вихідних токенів на відповідь) і порівняйте результат на 10–20 ваших власних завданнях. Кодер пише найдовші відповіді: DeepSeek-V4-Flash дозволяє до 32 768 вихідних токенів на відповідь. Оскільки кожна модель розміщується на одному балансі з однією ціною в будь-який час, змішувати їх в одному ланцюжку потребує лише іншого рядка model для кожного агента. Поточні ціни для обох є в таблиці цін та на сторінці DeepSeek.

Чому б просто не передавати KV-кеш?#

Стаття SwaT (arXiv:2610.15095), подана 10 жовтня 2026 року Alabdulkareem, Tenison, Zhang, Zhu, Katz і Gutfreund, пропонує саме це: агенти передають один одному стан KV-кешу замість тексту, тож отримувач пропускає повторне читання тексту. Згідно зі сторінкою анотації (прочитано 31 жовтня 2026 року), автори повідомляють про на 40% вищу середню точність (з ущільненням KV-кешу), ніж при текстовий комунікації, та в 4 рази швидший середній час виконання на 17 бенчмарках, 12 LLM і 6 сімействах моделей. 40% — це точність, а не економія токенів чи ціни.

Дослідницький метод, як цей, потребує доступу до внутрішнього кешу моделі. Запит чат-завершення приймає текст на вході та видає текст на виході, тому з API ваш важіль — це текст: три зміни вище.

Перш ніж масштабувати до сотень запусків#

Для ширшої картини бюджетів агентів дивіться як оцінити вартість AI-агента та чому агенти використовують так багато токенів.