可靠批处理任务

Live
控制大量请求的并发、重试、核对与成本。
在 ChatGPT 中打开
(opens in new tab)
最后核对: 2026-08-11

把工作放进队列

为每个输入创建持久记录,包含内部 job ID、model ID、Payload Hash、状态、尝试次数与 ModelRush request ID。Worker 应在有界并发下领取任务。

分类重试

对 429 与临时 5xx 使用带 Jitter 的重试。校验和计费错误进入人工检查状态。异步媒体应先核对已有 generation ID,再创建替代任务。

衡量可用输出

记录总尝试数、成功输出、被接受输出、延迟与花费。每个可用输出的成本比单次请求价格更有意义。