El enrutamiento de modelos se está convirtiendo en un componente clave de la pila de IA empresarial, ya que envía indicaciones dinámicamente al modelo de IA correcto para optimizar la velocidad y los costos. Sin embargo, los marcos actuales tratan principalmente el enrutamiento como un problema de clasificación estática, lo que limita gravemente su potencial.
Un nuevo marco de código abierto llamado Agente como enrutador aborda este cuello de botella, tratando al enrutador como un agente dinámico que crea memoria. Utiliza un bucle Context-Motion-Suggestions (CAF) para rastrear los éxitos y fracasos del modelo y actualizar el comportamiento del enrutador.
Los investigadores también lanzaron ACRouter, una implementación concreta de este paradigma. En sus pruebas, ACRouter superó significativamente a los enrutadores estáticos y la costosa estrategia de optar por modelos premium de forma predeterminada, todo sin requerir que los equipos entrenen modelos masivos o escriban heurísticas interminables.
Para aplicaciones del mundo actual, este marco ofrece la opción de reemplazar la infraestructura de IA codificada con sistemas de optimización automática que pueden adaptarse a los cambios en el comportamiento del usuario y los modelos básicos utilizados en la pila de IA empresarial.
La economía del enrutamiento y el déficit de información
Las configuraciones de un solo modelo son útiles para los experimentos, pero perjudiciales a la hora de ampliar las aplicaciones de IA. Los ingenieros de inteligencia synthetic utilizan el enrutamiento de modelos para asignar tareas a modelos abiertos más baratos y rápidos cuando sea posible, al tiempo que reservan costosos modelos de frontera para razonamientos complejos.
Actualmente, los desarrolladores se basan en dos mecanismos principales para esta tarea. El primero es el enrutamiento basado en heurísticas, que se basa en reglas manuales codificadas. Por ejemplo, un desarrollador podría escribir una regla que establezca que si un mensaje contiene determinadas palabras clave, se enruta a GPT-5.5. De lo contrario, se opta por un modelo de código abierto autohospedado como Kimi K2.7.
El segundo mecanismo son las políticas estáticas entrenadas. Estos son clasificadores de aprendizaje automático entrenados en conjuntos de datos históricos que analizan las incorporaciones del mensaje y predicen el mejor modelo basándose en datos de entrenamiento anteriores.
Ambos enfoques son estáticos. Cuando los investigadores probaron estos mecanismos existentes en la codificación del mundo actual y en flujos de trabajo agentes, encontraron un límite estricto de precisión. El hallazgo clave muestra que los enrutadores estáticos sufren de un grave déficit de información. Debido a que solo evalúan el texto de entrada y nunca ven si el modelo realmente logró ejecutar la tarea, adivinan a ciegas cuando se enfrentan a casos extremos complejos.
Esto da como resultado tres puntos distintos de falla. En primer lugar, los enrutadores estáticos sufren de un estado de información congelada, lo que significa que no pueden acumular nuevos comentarios de ejecución durante la implementación. En segundo lugar, fracasan en la generalización fuera de la distribución (OOD). Se estropean durante las operaciones del segundo día, cuando los datos empresariales o el comportamiento de los usuarios cambian porque sus datos de capacitación ya no coinciden con la realidad. Por último, son muy vulnerables al abandono de modelos. Un clasificador estático entrenado con los modelos actuales puede volverse obsoleto cuando salga un modelo mejor la semana siguiente.
Agente como enrutador: un sistema en evolución automática
La tesis central del agente como enrutador es que un enrutador verdaderamente eficaz debe adquirir y acumular información basada en la ejecución durante la implementación, esencialmente aprendiendo en el trabajo.
Los investigadores lograron esto a través del circuito CAF. Cuando llega un nuevo mensaje, el enrutador examina el mensaje y los metadatos de la tarea, como el lenguaje de programación o la dificultad. Luego busca en su memoria histórica tareas similares para ver qué modelos tuvieron éxito o fracasaron en el pasado. El enrutador utiliza este contexto para seleccionar el modelo de destino y ejecutar la tarea. Finalmente, el sistema observa el resultado del mundo actual, extrae una señal de éxito o fracaso y escribe esta retroalimentación en su memoria para informar futuras decisiones de enrutamiento.
Considere un proceso automatizado de análisis de datos empresariales. El enrutador recibe una tarea de generación de SQL y la envía a un modelo de código abierto como Kimi. El modelo alucina con el nombre de una columna y no puede compilar el SQL. El bucle CAF observa el error del compilador, lo registra como retroalimentación y lo registra. La próxima vez que llega una consulta SQL oscura comparable, el enrutador verifica su contexto y dirige la tarea a un modelo más avanzado como Claude Opus 4.8.
Enrutador AC
Los investigadores desarrollaron ACRouter como la instancia concreta de este marco. Se compone de tres componentes principales: el orquestador, el verificador y la memoria. Esta arquitectura está respaldada por una capa de herramientas para ejecutar físicamente el bucle CAF.
El módulo de Memoria alimenta la fase de contexto. Construido sobre un almacén de vectores, recupera interacciones pasadas relevantes y actualiza la base de datos histórica con nuevos resultados. El orquestador maneja la fase de acción. Procesa el mensaje del usuario junto con la memoria recuperada para seleccionar el modelo de destino más capaz del grupo disponible. El Verificador gestiona la fase de retroalimentación evaluando el resultado del modelo elegido para generar una señal clara de éxito o fracaso.
La capa de herramientas conecta el Verificador con entornos de ejecución del mundo actual, como un intérprete de código Python, un entorno de pruebas agente o un motor de base de datos. La capa de herramientas permite que el sistema ejecute el código o consulta generado y observe el resultado exacto, proporcionando la señal verificable que el enrutador necesita para aprender.
El Orchestrator en sí es liviano. En lugar de un modelo de lenguaje masivo y computacionalmente pesado, los investigadores entrenaron un adaptador de mil millones de parámetros basado en Qwen 3.5 (0.8B de parámetros), lo que significa que puede autohospedarse en un dispositivo de su elección.
ACRouter en acción: superando las líneas de base de frontera
Para probar el marco, los investigadores introdujeron CodeRouterBench, un entorno de evaluación que comprende aproximadamente 10.000 tareas con puntuaciones verificadas en ocho modelos de frontera, incluidos Claude Opus 4.6, GPT-5.4, Qwen3-Max y GLM-5. La evaluación se dividió entre pruebas dentro de la distribución (ID) (que cubren nueve dimensiones de codificación de un solo turno, como el diseño de algoritmos y la generación de pruebas) y un banco de pruebas de programación agente fuera de la distribución (OOD). Las tareas OOD eran cualitativamente diferentes y requerían planificación de varios pasos, navegación de archivos y depuración iterativa para ver si el enrutador podía adaptarse a dominios fundamentalmente nuevos.
Los resultados de referencia revelaron por qué una estrategia de modelo único es defectuosa: ningún modelo domina todas las categorías. Por ejemplo, aunque Claude Opus 4.6 logró el rendimiento promedio más alto, fue superado en diseño de algoritmos por GLM-5 (una mejora relativa del 86%) y en generación de pruebas por Qwen3-Max (una mejora del 111%), a pesar de que Opus cuesta aproximadamente 12 veces más que modelos más pequeños como Kimi-K2.5.
En los puntos de referencia, los enrutadores estáticos fallaron continuamente al enviar una tarea de codificación de nicho específico a un modelo mal equipado para esa sintaxis exacta. El enrutador estático no tenía forma de saber que el código no se estaba ejecutando. Por el contrario, ACRouter ajustó su estrategia después de recibir una señal de retroalimentación negativa del entorno de ejecución.
Según la evaluación comparativa de los investigadores, ACRouter se sitúa firmemente en la frontera de Pareto en cuanto a coste y rendimiento. Tanto en los flujos de tareas de identificación como en las complejas pruebas agentes OOD, ACRouter logró el arrepentimiento acumulativo más bajo, una métrica que mide las decisiones de enrutamiento subóptimas a lo largo del tiempo. En el conjunto de pruebas en distribución, ACRouter costó $13,21 durante toda la ejecución de la tarea, en comparación con $34,02 por usar siempre Opus de forma predeterminada: un ahorro de 2,6 veces.
Emparejó dinámicamente las tareas con el modelo más capaz para ese nicho específico, lo que sugiere que las empresas pueden alcanzar o superar la precisión de nivel fronterizo en diversas cargas de trabajo sin pagar un precio superior por cada consulta.
Advertencias, limitaciones y cómo empezar
Si bien el paradigma del agente como enrutador resuelve el déficit de información, no es una solución normal para todos los flujos de trabajo de IA.
El marco brilla en tareas verificables en las que el Verificador obtiene una señal clara de éxito o fracaso del entorno, como la codificación o la recuperación de datos. Es eficaz para aplicaciones con cambios de distribución y dominios donde diferentes modelos destacan en nichos completamente distintos.
Por el contrario, la configuración es excesiva para tareas triviales en las que cualquier modelo será suficiente, o para aplicaciones de bajo volumen que no justifican los gastos generales de ingeniería. Tampoco es adecuado para ámbitos subjetivos, como la escritura creativa, donde no es fácil verificar una respuesta correcta y las señales de retroalimentación son imposibles de estandarizar.
Los investigadores de código abierto el código en GitHub y soltó el Pesos del modelo orquestador en Hugging Face bajo la licencia Apache 2.0. El enrutador es appropriate con Claude Code, Codex y OpenCode.
