图片生成接口的审核链路:提示词、结果图与历史记录
说明图像任务在提交前、生成后和展示时各自需要的安全检查。
说明图像任务在提交前、生成后和展示时各自需要的安全检查。
先看清 图片生成 的问题边界
只审核提示词无法发现生成结果中的风险,只审核结果又会浪费上游费用。完整链路需要前置规则、结果检测和用户申诉机制。
落地方法与执行顺序
提交时校验用户权限、提示词和参数;生成后在公开展示或下载前检查结果;历史记录保存任务状态、模型和必要的审核结论,不公开敏感内容。
常见误区与安全边界
审核失败与审核服务不可用是两种状态。前者按规则拒绝,后者应进入等待或人工复核,不能为了可用率把未知结果直接展示给用户。
验收标准与复盘依据
用边界提示、正常提示和审核服务不可用场景测试。策略应明确拒绝、人工复核和安全失败的处理,不能在审核异常时默认公开。