에이전트 세션 비용: GLM, DeepSeek, MiniMax에서 50단계

에이전트가 10분 동안 실행됐는데, 청구서가 작업보다 큽니다. 이상한 일은 없었습니다. 매 단계마다 전체 히스토리를 다시 보내기 때문에 입력 쪽이 단계마다 커지고 결국 비용의 대부분을 차지합니다. 아래 수치로 보면 50단계 세션은 입력 토큰 885,000개를 보내고 40,000개를 씁니다. 히스토리가 얼마나 커질지와 한 답변이 얼마나 길어야 하는지에 따라 모델을 고르고, 표에서 총액을 확인하세요.

50단계가 1단계보다 비싼 이유#

모델은 호출 사이에 아무것도 기억하지 않습니다. 작업을 이어가려면 에이전트가 지시사항, 이전의 모든 단계, 마지막 단계가 만든 결과를 다시 전부 보냅니다. 1단계는 시작 컨텍스트를 보냅니다. 50단계는 시작 컨텍스트에 49단계의 히스토리를 더해 보냅니다. 이 개념이 처음이라면 why AI agents use so many tokens에서 20단계 예시를 살펴보세요.

에이전트가 3,000토큰(시스템 프롬프트, 작업, 몇 개의 파일)으로 시작하고 매 단계마다 히스토리에 약 600토큰이 추가된다고 가정해 봅시다. 에이전트는 자신이 한 일과 본 것에 대한 요약 메모를 남기고 나머지는 버립니다. 그러면 50단계는 3,000 + 600 × 49 = 32,400토큰을 보냅니다. 답변은 단계당 약 800토큰으로 유지됩니다. 질문은 계속 커지고 답변은 그렇지 않습니다.

50단계 합계#

계산에 들어가기 전에 한번 추측해 보세요.

종이에 계산하듯 순서대로 합하면 다음과 같습니다.

• 시작 컨텍스트가 50번 나갑니다: 50 × 3,000 = 150,000.
• 0부터 49까지의 단계 번호 합은 49 × 50 ÷ 2 = 1,225이고, 각 단위는 600토큰의 히스토리입니다: 600 × 1,225 = 735,000.
• 입력 합계: 150,000 + 735,000 = 885,000.
• 출력 합계: 50 × 800 = 40,000.

885,000 중 735,000이 히스토리이며, 히스토리는 단계 수보다 빠르게 늘어납니다. 작업을 두 배인 100단계로 늘리면 99 × 100 ÷ 2 = 4,950이므로 히스토리는 600 × 4,950 = 2,970,000이고 시작 컨텍스트는 100 × 3,000 = 300,000이라서 입력 토큰은 모두 3,270,000이 됩니다. 단계는 두 배인데 입력은 거의 네 배입니다. 출력은 두 배로만 늘어납니다: 100 × 800 = 80,000.

모델별 세션 비용#

요청은 입력과 출력을 합쳐 청구되므로 총액을 비교하세요. 그렇게 계산하면 이 부하에서 세 모델 모두 총액이 OpenRouter보다 저렴합니다. 표의 OpenRouter 열이 이를 보여줍니다. 가격은 실시간이므로 표는 최신 상태로 유지됩니다.

입력 쪽에서 읽어 보세요. 이 세션의 토큰 100개 중 약 96개가 입력이므로 입력 가격이 총액의 대부분을 결정합니다. 오늘 기준 1M 토큰당 입력: DeepSeek-V4-Flash $0.015, GLM-5.3-Flash $0.02, MiniMax-M2.7 $0.05.

그리고 DeepSeek-V4-Flash에서의 두 배 증가는 다음과 같습니다.

이제 여러분의 부하를 보세요. 예시의 평균 단계는 885,000 ÷ 50 = 17,700 입력 토큰을 보내고 800을 씁니다. 이런 작업 다섯 개면 하루에 5 × 50 = 250단계입니다. 수치를 여러분 것으로 바꾸세요. 계산기는 실시간 가격으로 단계별로 합산합니다.

히스토리가 윈도에 들어갈까요?#

비용은 한 가지 한계입니다. 다른 하나는 윈도입니다. 모델의 컨텍스트보다 큰 요청은 아예 보낼 수 없습니다. CheapTokens 모델 카탈로그(2026년 11월 4일)에 따르면 한계는 다음과 같습니다.

단계당 600토큰씩 늘어나는 우리의 성장률로 보면 히스토리만으로도 많은 단계 후에 윈도에 가까워집니다. MiniMax-M2.7은 약 290단계(3,000 + 600 × 289 = 176,400), DeepSeek-V4-Flash는 약 620단계(3,000 + 600 × 619 = 374,400), GLM-5.3-Flash는 약 640단계(3,000 + 600 × 639 = 386,400)입니다. 50단계 세션은 어느 모델이든 작은 부분만 사용합니다.

실제 세션은 더 거칩니다. 어떤 단계가 큰 로그를 붙여넣어 600토큰 대신 6,000토큰을 추가하면 MiniMax-M2.7의 180K는 약 30단계에서 끝납니다: 3,000 + 6,000 × 29 = 177,000. 같은 작업은 더 큰 윈도에서 훨씬 오래 들어갑니다.

답변 한도는 반대로 작동합니다. GLM-5.3-Flash와 MiniMax-M2.7은 답변당 최대 8,192토큰, DeepSeek-V4-Flash는 최대 32,768토큰을 씁니다. 한 단계가 10,000토큰짜리 보고서를 만들어야 한다고 해 봅시다. 8,192 한도에서는 응답이 상한에서 멈추고 finish_reason가 length를 표시합니다. DeepSeek-V4-Flash에서는 한 답변에 들어갑니다.

지원 봇의 같은 합계#

지원 봇은 사람이 들어간 같은 루프입니다. 대화가 30턴 진행되고, 시스템 프롬프트와 규칙이 1,000토큰을 차지하며, 각 턴이 히스토리에 300토큰(고객 100, 봇 200)을 추가한다고 해 봅시다.

• 시작 컨텍스트, 30번: 30 × 1,000 = 30,000.
• 히스토리: 29 × 30 ÷ 2 = 435단위 × 300토큰, 즉 300 × 435 = 130,500.
• 입력 합계: 30,000 + 130,500 = 160,500.
• 출력 합계: 30 × 200 = 6,000.

이런 대화 하나의 비용은 GLM-5.3-Flash에서 $0.0035, DeepSeek-V4-Flash에서 $0.003, MiniMax-M2.7에서 $0.0089입니다. 형태는 같습니다. 토큰 100개 중 약 96개가 입력입니다. 하루에 수천 건의 대화를 처리하는 봇은 첫 주에 이를 체감하며, 히스토리를 줄이는 것이 지렛대입니다. Sliding window or summary에서 방법을 보여줍니다.

직접 세션을 측정하세요#

위 가정은 어림수입니다. 여러분의 에이전트에는 고유한 수치가 있고, API가 정확히 알려줍니다. 모든 응답에는 해당 호출의 입력 및 출력 토큰이 담긴 usage 객체가 있습니다. 이 루프는 도구 없이 에이전트와 같은 형태입니다. 히스토리가 커지고 전체 목록이 다시 전송됩니다. 예시일 뿐이니 프롬프트를 여러분의 작업으로 바꾸세요.

import os
import requests

URL = 'https://api.cheaptokens.dev/v1/chat/completions'
HEADERS = {'Authorization': 'Bearer ' + os.environ['CHEAPTOKENS_API_KEY']}

messages = [{'role': 'system', 'content': 'You are a research agent. Work in small steps.'}]
total_in = total_out = 0

for step in range(1, 51):
    messages.append({'role': 'user', 'content': f'Step {step}: continue the task.'})
    r = requests.post(URL, headers=HEADERS, timeout=120, json={
        'model': 'deepseek-ai/DeepSeek-V4-Flash-0731',
        'messages': messages,
        'max_tokens': 800,
    }).json()
    messages.append(r['choices'][0]['message'])
    total_in += r['usage']['prompt_tokens']
    total_out += r['usage']['completion_tokens']
    print(step, r['usage']['prompt_tokens'], r['usage']['completion_tokens'])

print('session:', total_in, 'input,', total_out, 'output')

출력된 각 줄의 가운데 숫자는 해당 호출의 입력이며 단계마다 올라갑니다. 그 상승이 히스토리입니다. 마지막 줄의 두 합계를 위의 비용 계산기에 885000과 40000 대신 넣으면 세션 가격이 나옵니다. 기본 URL, 키, 모델 id는 CheapTokens docs에 설명되어 있습니다.

세션에 맞는 모델#

세션당 가격은 표에 있습니다. 표가 보여주지 못하는 것은 세션이 들어가는지 여부이므로 사례에 따라 고르세요.

세 모델 모두 동일한 OpenAI 호환 주소 뒤의 하나의 CheapTokens 잔액에 있으므로 시험 실행 후 전환은 모델 id 변경일 뿐입니다. 현재 가격은 pricing page에 있고, 강점 비교는 GLM vs DeepSeek vs MiniMax에 있습니다.