指南
大模型按量计费怎么算:实操清单
集群导航 / See also。 中文按量计费支柱(本页)。英文估算支柱:LLM token cost estimation。工具:Token 与费用估算器。表格怎么建:Token 费用估算表格。Prompt 入门:Prompt 与费用入门。
「按量计费」四个字很好懂:用多少 Token,付多少钱。真把功能接到生产流量里之后,财务看到的数字却常常对不上产品经理脑海里的「一次调用挺便宜」。差额通常来自四件事:输出更贵、上下文比用户那句话长得多、重试与修 JSON、Agent 多轮把同一段历史反复计费。下面给一套可以直接贴进评审文档的算法与清单。我们不编造「实测省了百分之几」——单价以你控制台/合同当日数为准。
相关链接:团队成本控制、retry budget。
1. 先统一计费语言
多数云厂商公示的是 每 100 万 Token 的输入价、输出价(货币可能是美元)。内部表格建议再换算成每 1K,读写更直观:
输入单价_1K = 输入单价_1M / 1000输出单价_1K = 输出单价_1M / 1000单次费用 ≈ 输入Token/1000 × 输入单价_1K + 输出Token/1000 × 输出单价_1K月费用 ≈ 单次 × 月调用次数 × (1 + 重试率) × 平均 Agent 轮次
结算以厂商返回的 usage 字段为准;本地粗估、浏览器估算器只用于立项、告警和对比方案。把「估算」和「发票」写成两种数字,避免吵架。
2. 输入 Token:把隐藏部分写进 brief
评审时最常见的低估,是只拿用户可见的一句问法去乘单价。生产请求里通常还有:
- 系统提示(角色、安全、输出格式、拒答策略)
- 少样本例子
- RAG 检索拼接
- 工具 / 函数的 JSON Schema 全文
- 多轮对话与工具返回值
其中 工具描述 + 历史工具结果 在 Agent 功能里往往反客为主。若你在做多步代理,请同时阅读英文指南 AI agent tool-calling token overhead,把「方案税」「轨迹税」「步数」三个比例记进同一张成本表。
中文语料不要默认套用「4 字符 ≈ 1 Token」的英文经验。正确做法是:用目标模型族做一次小流量校准,记下 厂商usage / 本地计数 的比例,写进 Prompt 版本备注。参见 local vs vendor tokenizer。
3. 输出 Token 与 max_tokens
max_tokens 是天花板,不是均值。报价与告警应用日志里的 平均输出 或 p90 输出。另外把这些算进「广义重试」:
- HTTP 429 / 5xx 的自动重试(可能整单重算输入)
- 结构化输出校验失败后的「请按 schema 再生成」修复轮
- 用户点击「重新生成」
修复轮常常短于首轮,但也绝不是零。英文 retry budget spreadsheet 把重试预算写成功能级表格,建议中英对照使用。
4. 可复制的成本表(字段)
| 字段 | 填写说明 |
|---|---|
| 功能 ID | 如 support-draft-v3,勿用「聊天」这种大锅饭 |
| 模型 ID 与单价日期 | 从控制台粘贴,保留链接 |
| p50 / p90 输入 | 生产采样,含系统与工具 |
| 平均输出 | 生产采样 |
| 日 / 月调用 | 埋点 |
| 重试率 | 分「传输重试」与「修复轮」更佳 |
| Agent 平均轮次 | 一次用户动作触发几次模型调用 |
| 基线日费用 | 套公式 |
| 故障日费用 | 把重试率抬到 5–10× 看一眼 |
| 告警阈值与负责人 | 必须有人名 |
同一组假设用本站 Token 与费用估算器 再跑一遍;估算器可改单价,适合贴进 RFC 附录。
5. 按量 vs 套餐 / 网关 vs 直连
- 按量:波动大、要透明、要按租户限流时更合适。
- 套餐/包月:用量稳态、希望财务平滑时更合适;仍要用按量公式估算「是否会超额」。
- 官方直连 vs 聚合网关:比的是「含税总拥有成本」——Token 价 + 工程接入天数 + 协议/分包商审查 + 退出成本。英文 OpenRouter vs direct OpenAI pricing worksheet 的维度可直接翻译成你的表格列。
切勿只拿官网头图价格做董事会材料;写上「价格抓取日期」。
6. 和产品计量对齐
财务听得懂的是 成功单位,不是「调用次数」:
- 用户接受的一封草稿
- 无需人工介入的一次工单草稿
- 一次合规的结构化抽取
先定义成功单位 U,再算 单 U 变动成本。英文 LLM feature unit economics for SaaS 给了贡献利润写法;中文团队可以把「单 U 成本」写进需求验收标准。
7. 上线检查清单
- 单价来源、日期、货币已记录
- 用生产形态 Prompt(含 RAG/工具)估 p90
- 重试与修复轮有明确上限与美元/人民币日封顶
- 租户级配额与共用 Key 的拆账方式
- 日志能把 usage 对上
feature_id - 告警值班人与降级开关
- 对外计划是否包含超额与公平使用条款(若面向客户)
8. 常见误区
- 只比较输入单价,忽略输出。
- 用英文 Demo 短上下文代替中文生产 RAG。
- 多功能共用一把 Key,月底无法归因。
- 把
max_tokens当平均输出。 - 上线后才第一次打开账单。
9. 建议落地顺序
- 本周选一个已上线功能,导出约 20 条轨迹填表。
- 用估算器跑「基线 / 故障日」两套重试假设。
- 把成功单位与单 U 成本写进需求文档,并与 中文成本控制 的告警策略对齐。
- 若同时维护中英页面,收录与 sitemap 参见 中英双语站点 SEO。
按量计费本身不可怕;可怕的是公式从未进入评审。先把表搭好,再讨论要不要换更贵的模型。
文中工具链接指向本站免费客户端工具。若出现第三方产品链接,可能为联盟链接 — 披露说明.