usageToken 计费流式调用
响应有内容但 usage 为空:计费链路该从哪里排查
针对流式与非流式响应中的 usage 缺失,检查请求参数、上游能力和网关汇总。
关键词usageToken 计费流式调用扣费排查
LA
响应有内容但 usage 为空:计费链路该从哪里排查
usage实操方法与验收标准LondAI 内容团队
针对流式与非流式响应中的 usage 缺失,检查请求参数、上游能力和网关汇总。
先看清 usage 的问题边界
部分接口只在结束帧返回 usage,部分上游需要显式请求统计,还有的兼容接口字段名称不同。正文正常不等于计费数据一定完整。
落地方法与执行顺序
先用非流式请求建立基准,再检查流式结束帧、网关解析器和模型价格映射。任何估算 token 的兜底逻辑都应标记来源,不能与上游实报混为一谈。
常见误区与安全边界
不能因为 usage 缺失就默认免费,也不能用固定字数粗略扣费。两种做法都会扩大对账偏差;兜底估算必须有模型对应的 tokenizer、来源标记与误差监控。
验收标准与复盘依据
核对原始响应、使用记录和余额变化,测试正常结束、客户端取消及上游报错三种路径。缺失 usage 时系统应有明确策略,而不是静默记为零费用。