核心结论批量任务的单位不是一万张图，而是一万个可独立追踪和恢复的子任务。
为什么这个问题值得单独处理
批量生成会同时暴露限流、供应商容量、重复提交、预算失控和部分失败。如果只保留批次级状态，一个子任务失败就可能迫使整批重跑，造成重复费用和难以核对的结果。
决策框架
- 每个输入拥有稳定 job_id 与幂等键。
- 批次设置并发、速率、单任务和总预算上限。
- 重跑只选择失败或被拒的子任务。
在 ModelRush 工作流中落地
队列把批次展开为 ModelRush 子任务，状态表记录输入、模板、模型、尝试、费用和结果。调度器根据供应商健康与预算控制并发；批次完成条件允许部分成功，并生成失败清单供修复。
上线后应该看什么
- 子任务成功、重试、拒绝和永久失败分布。
- 重复计费与重复结果数量。
- 批次完成时间和峰值预算消耗。
批量任务的单位不是一万张图，而是一万个可独立追踪和恢复的子任务。
下一步
从这篇文章直接进入模型详情、当前价格、API 文档和 Playground。查看 API 文档
把文章中的架构和可靠性原则对应到请求、任务状态与错误处理。继续阅读
围绕相邻决策继续构建你的多模型技术栈。
