响应有内容但 usage 为空:计费链路该从哪里排查

针对流式与非流式响应中的 usage 缺失,检查请求参数、上游能力和网关汇总。

关键词
LALondAI 内容团队发布日期 2026-09-07
5 分钟阅读模型教程
LA
响应有内容但 usage 为空:计费链路该从哪里排查
usage实操方法与验收标准LondAI 内容团队

针对流式与非流式响应中的 usage 缺失,检查请求参数、上游能力和网关汇总。

先看清 usage 的问题边界

部分接口只在结束帧返回 usage,部分上游需要显式请求统计,还有的兼容接口字段名称不同。正文正常不等于计费数据一定完整。

落地方法与执行顺序

先用非流式请求建立基准,再检查流式结束帧、网关解析器和模型价格映射。任何估算 token 的兜底逻辑都应标记来源,不能与上游实报混为一谈。

常见误区与安全边界

不能因为 usage 缺失就默认免费,也不能用固定字数粗略扣费。两种做法都会扩大对账偏差;兜底估算必须有模型对应的 tokenizer、来源标记与误差监控。

验收标准与复盘依据

核对原始响应、使用记录和余额变化,测试正常结束、客户端取消及上游报错三种路径。缺失 usage 时系统应有明确策略,而不是静默记为零费用。