Enrutamiento multi-modelo para agentes de código: No todos los pasos necesitan el modelo premium

Divide la recuperación, planificación, edición, pruebas y revisión en rutas explicables de calidad, velocidad y coste.

Conclusión principalLa mejor unidad de enrutamiento para un agente de código no es la sesión completa, sino cada paso con sus propias necesidades de riesgo y contexto.

Descomponer el bucle del agente

Los agentes de código interpretan repetidamente objetivos, buscan en repositorios, planifican, editan archivos, ejecutan pruebas y revisan diffs. Fijar toda la tarea en un solo modelo es sencillo, pero se paga de más por pasos de bajo riesgo y puede quedar corto en etapas que requieren contexto largo o razonamiento más fuerte.

Enrutar por paso

Búsqueda y resumen del repositorio: priorizar velocidad y capacidad de contexto.
Diseño y juicio de riesgos: priorizar razonamiento y adhesión a instrucciones.
Ediciones mecánicas pequeñas: priorizar formato estable y baja latencia.
Diagnóstico de fallos: combinar logs, código e intentos previos.
Revisión final: usar un modelo diferente cuando sea práctico para reducir puntos ciegos correlacionados.

ModelRush permite que un agente llame a rutas lógicas en lugar de nombres de modelo codificados. La ruta selecciona según longitud de contexto, necesidades de herramientas, presupuesto y estado actual de salud.

Preservar la consistencia de la sesión

Múltiples modelos no requieren copiar una transcripción de chat ilimitada. Pasa el estado estructurado de la tarea a cada paso: objetivo, hechos confirmados, ámbito de archivos, cambios completados, pruebas fallidas y riesgos sin resolver. Los cambios de modelo ya no dependen de la memoria conversacional implícita.

Medir el coste a través de la calidad de la finalización

El precio por millón de tokens no es suficiente. Haz seguimiento de la finalización en el primer intento, correcciones humanas, bucles antes de que pasen las pruebas y regresiones introducidas. Una llamada más barata que provoque tres rondas de reelaboración puede costar más en total.

Prueba primero el enrutamiento en revisión o resumen, luego amplíalo. Cada ruta automática debe conservar un motivo para que el equipo pueda entender por qué un paso usó un nivel de capacidad concreto.