返回博客

AI 入门指南

如何选择 AI 模型:上下文、输出、速度、价格

用四个数字为聊天、编程或智能体选择模型:上下文窗口、最大输出、速度和价格。包含实例和实时成本表。

作者:CheapTokens Team发布于 5 分钟阅读

封面:一个聊天询问哪个模型适合支持机器人,用上下文、输出、速度和价格回答
本页内容
  1. 用大白话解释这四个数字
  2. 上下文:你发送的所有内容能装下吗?
  3. 输出长度:截断回答的限制
  4. 速度:你自己测量的那个数字
  5. 价格:把输入和输出加在一起
  6. 按任务选择模型

一个包含四十个名称的模型列表,一句描述的任务,两者之间没有明显联系。简短的回答是:按顺序检查四个数字。上下文窗口和最大输出决定模型能否完成你的任务。速度和价格决定它有多好用、多贵。上下文、输出限制和价格列在模型页面和价格表中;速度需要你自己花大约一分钟测量,脚本在下面。

用大白话解释这四个数字#

把模型想象成坐在桌前的同事。上下文窗口是桌子的尺寸:所有必须同时摆在他们面前的东西。最大输出是他们一次能说多久。速度是他们开始回答的速度。价格是他们的时薪。四个术语,你会在每份 API 文档中遇到它们:

闪卡

每个模型列表中都会遇到的术语

具体来说,以下是 CheapTokens 目录中三个模型的前两个数字,来自 CheapTokens 模型参考(2026 年 10 月 27 日):GLM-5.3-Flash 有 390K 上下文,最多回答 8,192 个 token;DeepSeek-V4-Flash(0731 版本)有 380K,最多回答 32,768 个 token;MiniMax-M2.7 有 180K,最多回答 8,192 个 token。

三个模型的上下文窗口和最大输出
来自 CheapTokens 模型参考的上下文和输出限制,2026 年 10 月 27 日

上下文:你发送的所有内容能装下吗?#

假设你的编程助手打开 12 个文件,每个约 3,000 个 token,然后加上你的问题和它自己的笔记。12 × 3,000 = 36,000 个 token。即使上面最小的窗口 180K,也能轻松容纳。单个巨大文件或整个仓库转储才是窗口开始变得重要的地方。

聊天和智能体更棘手,因为 API 在每次调用时重新发送整个历史记录。假设一个智能体运行 20 步,每一步增加约 2,000 个 token 的工具输出和回复(本示例的假设)。第 1 步发送 2,000 个 token,第 2 步发送 4,000 个,第 20 步发送 40,000 个。整个运行过程中发送 2,000 × 210 = 420,000 个 token,其中 210 是 1 + 2 + … + 20。

智能体在每一步重新发送不断增长的历史记录
20 步智能体运行中每一步的输入大小,假设每步新增 2,000 个 token

这里隐藏着两个不同的问题。上下文窗口只关心最大的单次请求:第 20 步的 40,000 个 token,目录中的每个模型都能轻松容纳。账单关心的是总量,420,000 个 token。把两者都记在心里,你就不会因为错误的原因选择模型。

输出长度:截断回答的限制#

输出限制是单次回复的上限,很容易忘记,直到回答在句子中间停止。英语的经验法则:一个 token 大约是四分之三个单词。你要求一份 6000 字的报告:6000 / 0.75 = 8000 个 token。这刚好在 8,192 以下。要求 7,000 字,文本就会在段落中间结束。

在 32,768 个 token 的上限下,同样的计算得出单次回答最多 24576 字(32768 × 0.75 = 24576),因此生成的代码、长报告和整章草稿都能放在单次回复中。当回复确实被截断时,API 会告诉你:finish_reason 会返回为 length(为什么会发生以及如何修复)。

快速检查

你向一个输出限制为 8,192 个 token 的模型要求一份 12,000 字的报告。你会得到什么?

显示答案

答案: 一份中途停止的报告,finish_reason 设置为 length

12,000 字约等于 16,000 个 token,是上限的两倍。模型会一直写到触及上限然后停止,API 会用 finish_reason: length 标记该回复。

速度:你自己测量的那个数字#

速度实际上是两个数字:第一段文本出现需要多长时间,以及其余内容流式传输得多快。两者都会随负载、提示长度和一天中的时间而变化,所以从表格中复制的数字参考价值不大。在你自己的提示上测量。这需要一分钟,消耗少量 token(密钥来自环境变量;创建方法见文档):

python
import os, time
from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

start = time.perf_counter()
first = None
stream = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Flash-0731",
    messages=[{"role": "user", "content": "Explain what a token is in 3 sentences."}],
    stream=True,
)
for chunk in stream:
    if first is None and chunk.choices and chunk.choices[0].delta.content:
        first = time.perf_counter() - start
total = time.perf_counter() - start
print(f"first text after {first:.1f}s, finished after {total:.1f}s")

你会得到一行:first text after <N>s, finished after <M>s。将模型 id 替换为 zai-org/GLM-5.3-Flash 或 MiniMaxAI/MiniMax-M2.7,各运行几次,你就有了针对自己提示的速度对比。这重要吗?对于实时聊天,重要:人们会注意到第一个词之前的停顿。对于夜间批量摘要,没人在看,速度就降到你列表的底部。

价格:把输入和输出加在一起#

价格按每百万 token 报价,但你按请求付费,而请求既有输入侧也有输出侧。所以要在工作负载上比较模型,而不是比较两列数字。假设你的支持机器人每天处理 1,000 张工单,每张约 300 个 token 输入、150 个输出(假设;请替换为你自己的数字)。表格是实时的,会根据当前价格重新计算:

模型 每次请求 1,000 次请求 OpenRouter,1,000 次请求
GLM-5.3-Flash $0.000012 $0.012 $0.0238
DeepSeek-V4-Flash $0.00002 $0.0195 $0.0378
MiniMax-M2.7 $0.000038 $0.0375 $0.27

每次请求 300 个输入 token 和 150 个输出 token。每 100 万 token 的价格为当前价格,会随我们的资费一同变动;OpenRouter 列显示相同工作负载的参考价格。

看总计,而不是各列。总计中,输入和输出加在一起,这三个模型每个都比该表 OpenRouter 列中 OpenRouter 的参考价格便宜。

这就是智能体咬人的地方。上下文部分中的 20 步运行发送 420,000 个 token 输入,写出大约 4,000 个输出(每步 200 个,同样是假设)。在 DeepSeek-V4-Flash 上,这样一次运行花费 $0.0067。一天五次?移动滑块,观察三个模型:

成本计算器

一天的智能体工作:五个 20 步任务

每次请求的输入 token 数: 21,000 · 每次请求的输出 token 数: 200 · 每日请求数: 100

模型每天每月
GLM-5.3-Flash$0.0428$1.28
DeepSeek-V4-Flash$0.0335$1.01
MiniMax-M2.7$0.108$3.24

模型价格在一天中的任何时间都保持不变,所以你现在做的计算对晚上的批处理也适用。关于为什么输出 token 通常比输入贵的复习,请参阅输入和输出 token。

按任务选择模型#

从任务出发,找到最关键的的数字,然后再检查其他三个。点击你自己的情况:

选择你的情况

我的任务该用哪个模型?

回答简短的支持机器人

问题和答案都很短,所以目录中的每个模型都有富余空间,价格列决定选择。把你典型的工单代入上面的成本表,从 GLM-5.3-Flash 或 MiniMax-M2.7 开始,看哪个总计对你的数字更好。

读取多个文件的编程助手

上下文优先。GLM-5.3-Flash 在三个中窗口最大,为 390K,DeepSeek-V4-Flash 为 380K。当你一起发送的文件远低于 180K 时,MiniMax-M2.7 的 180K 就足够了。

循环多步的智能体

历史记录在每一步都会重新发送,所以总量增长很快。DeepSeek-V4-Flash 结合了 380K 上下文和每次回答最多 32,768 个输出 token,以及任何时间都相同的价格,使长循环可预测。用上面的计算器检查总量。

长报告和生成的代码

最大输出决定。DeepSeek-V4-Flash 每次回答最多写 32,768 个 token;GLM-5.3-Flash 和 MiniMax-M2.7 最多写 8,192 个,覆盖约 6,000 字的报告。

没有哪个模型在每一行都胜出,这就是为什么在决定之前,用同样的十个真实提示跑两个候选模型会有帮助。GLM vs DeepSeek vs MiniMax 对比更深入地介绍这三个模型,价格页面始终显示当前数字。