Tarefas em lote confiáveis

Live
Controle concorrência, retentativas, conciliação e custo em muitas requisições.
Abrir no ChatGPT
(opens in new tab)
Última verificação: 2026-08-11

Enfileire o trabalho

Crie um registro duradouro para cada entrada, com um ID interno de tarefa, o ID do modelo, o hash do payload, o estado, a contagem de tentativas e o ID de requisição do ModelRush. Os workers devem pegar tarefas com concorrência limitada.

Classifique as retentativas

Repita respostas 429 e 5xx transitórias com jitter. Mova falhas de validação e de cobrança para um estado de revisão. Para mídia assíncrona, concilie o ID de geração existente antes de criar um substituto.

Meça a saída aproveitável

Acompanhe o total de tentativas, as saídas bem-sucedidas, as saídas aceitas, a latência e o gasto. O custo por saída aproveitável informa mais do que o preço por requisição.