AI 모델 고르는 법: 컨텍스트, 출력, 속도, 가격

모델 목록에는 이름이 마흔 개, 작업 설명은 한 문장, 둘 사이의 뚜렷한 연결고리는 없습니다. 짧은 답부터 드리죠. 네 개의 숫자를 이 순서대로 확인하세요. 컨텍스트 윈도우와 최대 출력은 모델이 애초에 그 작업을 할 수 있는지를 결정합니다. 속도와 가격은 얼마나 쾌적하고 얼마나 비싼지를 결정합니다. 컨텍스트, 출력 한도, 가격은 모델 페이지와 가격표에 나와 있고, 속도는 1분 정도면 직접 확인할 수 있으며 스크립트는 아래에 있습니다.

네 개의 숫자를 쉬운 말로#

모델을 책상에 앉은 동료라고 생각해 보세요. 컨텍스트 윈도우는 책상의 크기입니다. 한 번에 눈앞에 놓여 있어야 하는 모든 것 말이죠. 최대 출력은 한 번에 얼마나 길게 말할 수 있는지입니다. 속도는 얼마나 빨리 답을 시작하는지입니다. 가격은 시급입니다. 네 가지 용어이고, 모든 API 문서에서 이들을 만나게 됩니다.

구체적으로 말하자면, CheapTokens 카탈로그에 있는 세 모델의 처음 두 숫자는 다음과 같습니다(CheapTokens 모델 레퍼런스, 2026년 10월 27일 기준). GLM-5.3-Flash는 390K 컨텍스트에 최대 8,192 토큰까지 답변합니다. DeepSeek-V4-Flash(릴리스 0731)는 380K에 최대 32,768 토큰까지 답변합니다. MiniMax-M2.7은 180K에 최대 8,192 토큰까지 답변합니다.

컨텍스트: 보내는 모든 것이 들어갈까?#

코딩 어시스턴트가 각각 약 3,000 토큰짜리 파일 12개를 열고, 거기에 질문과 자체 메모를 추가한다고 해 봅시다. 12 × 3,000 = 36,000 토큰입니다. 위의 가장 작은 윈도우인 180K에도 여유가 넘칩니다. 윈도우가 중요해지는 건 파일 하나가 거대하거나 저장소 전체를 통째로 넣을 때입니다.

채팅과 에이전트는 더 까다롭습니다. API가 호출할 때마다 전체 히스토리를 다시 보내기 때문입니다. 20단계를 실행하는 에이전트를 생각해 보세요. 각 단계마다 도구 출력과 답변으로 약 2,000 토큰이 추가된다고 가정합니다(이 예시를 위한 가정). 1단계는 2,000 토큰을 보내고, 2단계는 4,000, 20단계는 40,000을 보냅니다. 전체 실행 동안 2,000 × 210 = 420,000 토큰을 보내는데, 여기서 210은 1 + 2 + … + 20입니다.

여기에는 서로 다른 두 가지 질문이 숨어 있습니다. 컨텍스트 윈도우는 가장 큰 단일 요청만 신경 씁니다. 20단계의 40,000 토큰인데, 카탈로그의 모든 모델이 이를 쉽게 담습니다. 청구서는 총합인 420,000 토큰을 신경 씁니다. 둘 다 염두에 두면 잘못된 이유로 모델을 고르는 일이 없습니다.

출력 길이: 답변을 중간에 끊는 한도#

출력 한도는 한 번의 답변에 대한 상한이며, 답변이 문장 중간에 멈출 때까지는 잊기 쉽습니다. 영어 기준 경험 법칙: 토큰 하나는 단어의 약 4분의 3입니다. 6000단어짜리 보고서를 요청한다고 해 봅시다. 6000 / 0.75 = 8000 토큰입니다. 8,192 아래에 겨우 들어갑니다. 7,000단어를 요청하면 문단 중간에서 텍스트가 끝납니다.

32,768 토큰 상한이면 같은 계산으로 한 답변에 24576단어가 됩니다(32768 × 0.75 = 24576). 따라서 생성된 코드, 긴 보고서, 챕터 전체의 초안이 한 번의 답변에 들어갑니다. 답변이 잘릴 때는 API가 알려줍니다. finish_reason이 length로 돌아옵니다(왜 그런지, 어떻게 고치는지는 여기).

속도: 직접 측정해야 하는 유일한 숫자#

속도는 사실 두 개의 숫자입니다. 첫 텍스트가 나타나기까지의 시간, 그리고 나머지가 스트리밍되는 속도입니다. 둘 다 부하, 프롬프트 길이, 시간대에 따라 달라지므로 표에서 베낀 수치는 좋은 지침이 되지 못합니다. 자신의 프롬프트로 측정하세요. 1분이 걸리고 토큰도 몇 개만 씁니다(키는 환경 변수에서 가져옵니다. 생성 방법은 문서를 참고하세요).

import os, time
from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

start = time.perf_counter()
first = None
stream = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Flash-0731",
    messages=[{"role": "user", "content": "Explain what a token is in 3 sentences."}],
    stream=True,
)
for chunk in stream:
    if first is None and chunk.choices and chunk.choices[0].delta.content:
        first = time.perf_counter() - start
total = time.perf_counter() - start
print(f"first text after {first:.1f}s, finished after {total:.1f}s")

한 줄이 나옵니다. first text after <N>s, finished after <M>s. 모델 id를 zai-org/GLM-5.3-Flash 또는 MiniMaxAI/MiniMax-M2.7로 바꿔 각각 몇 번씩 실행하면 자신의 프롬프트에 대한 속도 비교가 완성됩니다. 이게 중요할까요? 실시간 채팅이라면 그렇습니다. 사람들은 첫 단어 전의 멈춤을 알아챕니다. 야간 배치 요약이라면 아무도 지켜보지 않으므로 속도는 목록 맨 아래로 내려갑니다.

가격: 입력과 출력을 합쳐서#

가격은 백만 토큰당으로 표시되지만, 실제로는 요청당 지불하며 요청에는 입력 쪽과 출력 쪽이 모두 있습니다. 그러니 두 개의 열이 아니라 워크로드로 모델을 비교하세요. 지원 봇이 하루에 티켓 1,000건을 처리하고, 각각 입력 약 300 토큰, 출력 150 토큰이라고 해 봅시다(가정이며, 자신의 수치로 바꾸세요). 표는 실시간이며 현재 가격으로 다시 계산됩니다.

열이 아니라 합계를 보세요. 입력과 출력을 합친 총액에서, 세 모델 모두 그 표의 OpenRouter 열에 있는 OpenRouter 기준 가격보다 저렴합니다.

그리고 여기서 에이전트가 문제를 일으킵니다. 컨텍스트 섹션의 20단계 실행은 420,000 토큰을 입력으로 보내고 아마 4,000을 출력합니다(단계당 200, 역시 가정). DeepSeek-V4-Flash에서 이런 실행 한 번은 $0.0067입니다. 하루에 다섯 번이라면? 슬라이더를 움직여 세 모델을 지켜보세요.

모델 가격은 하루 중 어느 시간에도 동일하므로, 지금 계산한 값이 저녁 배치에도 그대로 적용됩니다. 출력 토큰이 보통 입력보다 비싼 이유가 궁금하다면 입력과 출력 토큰을 참고하세요.

작업별로 모델 고르기#

작업에서 시작해 가장 크게 걸리는 숫자를 찾고, 나머지 셋은 그다음에 확인하세요. 자신의 사례를 클릭해 보세요.

모든 행에서 이기는 단일 모델은 없습니다. 그래서 결정하기 전에 같은 실제 프롬프트 열 개를 두 후보로 실행해 보는 것이 도움이 됩니다. GLM vs DeepSeek vs MiniMax 비교는 세 모델을 더 깊이 다루고, 가격 페이지는 항상 현재 수치를 보여줍니다.