Roteamento multi-modelo para agentes de código: Nem todo passo precisa do modelo premium

Divida a recuperação, planejamento, edição, testes e revisão em rotas explicáveis de qualidade, velocidade e custo.

Conclusão principalA melhor unidade de roteamento para um agente de código não é a sessão inteira, mas cada passo com suas próprias necessidades de risco e contexto.

Decompor o loop do agente

Os agentes de código interpretam repetidamente objetivos, buscam em repositórios, planejam, editam arquivos, executam testes e revisam diffs. Fixar toda a tarefa em um único modelo é simples, mas paga a mais por passos de baixo risco e pode ficar aquém em etapas que exigem contexto longo ou raciocínio mais forte.

Roteamento por passo

Busca e sumarização do repositório: priorizar velocidade e capacidade de contexto.
Design e julgamento de riscos: priorizar raciocínio e adesão a instruções.
Edições mecânicas pequenas: priorizar formatação estável e baixa latência.
Diagnóstico de falhas: combinar logs, código e tentativas anteriores.
Revisão final: usar um modelo diferente quando for prático para reduzir pontos cegos correlacionados.

O ModelRush permite que um agente chame rotas lógicas em vez de nomes de modelo codificados. A rota seleciona de acordo com o comprimento do contexto, necessidades de ferramentas, orçamento e saúde atual.

Preservar a consistência da sessão

Múltiplos modelos não exigem copiar uma transcrição de chat ilimitada. Passe o estado estruturado da tarefa para cada passo: objetivo, fatos confirmados, escopo de arquivos, alterações concluídas, testes falhados e riscos não resolvidos. As trocas de modelo deixam de depender da memória conversacional implícita.

Medir o custo pela qualidade da conclusão

O preço por milhão de tokens não é suficiente. Acompanhe a conclusão na primeira tentativa, correções humanas, loops antes de os testes passarem e regressões introduzidas. Uma chamada mais barata que cause três rodadas de retrabalho pode custar mais no total.

Pilote o roteamento primeiro na revisão ou sumarização, depois expanda. Toda rota automática deve reter um motivo para que a equipe possa entender por que um passo usou um determinado nível de capacidade.