RouteWeaver: Weaving Mode Selection and Execution into Unified LLM Routing
Xiaohan Wang, Haozhen Zhang, Qingyuan Liu, Tao Feng, Wenya Wang
cs.CL
2026-10-14
RouteWeaver 训练单个 4B 路由器按查询自选单轮/多轮/智能体执行,五域平均 61.4%,较最强基线相对提升 11.03%。
LLM routing 按查询决定调用哪个模型、怎么组织调用。现有方法按组织方式分三类:单轮路由(GraphRouter)为每条查询挑一个模型一次调用;多轮路由(Router-R1)根据中间输出连续选模型;智能体路由(MasRouter、GraphPlanner)把多个模型编排成带角色和依赖的工作流。三类的执行范式都事先定死,路由器能适应的只有「用哪个模型」,适应不了「这条查询值得一次调用还是一个工作流」。
分范式确实没有通吃:五个评测领域里,固定范式基线的强者并不一致,Math、Code、Knowledge 上多轮最强,Reason 和 Recall 上反而是单轮最强。既然没有哪种组织方式对所有任务都合适,范式本身就该变成路由决策的一部分。
RouteWeaver 把三种范式收进一个 LLM 策略,核心是三块设计:
九个 benchmark、五个领域,1,060 条与训练不重叠的测试题,主结果用 α=0(纯任务奖励)训练:
| 方法 | Math | Code | Knowledge | Reason | Recall | 平均 |
| GraphRouter(单轮最强) | 64.6 | 36.1 | 34.2 | 69.2 | 39.6 | 48.7 |
| Router-R1(多轮最强) | 66.3 | 52.8 | 48.9 | 68.7 | 39.8 | 55.3 |
| MasRouter(智能体最强) | 54.2 | 37.6 | 41.7 | 62.5 | 38.3 | 46.8 |
| RouteWeaver | 74.6 | 58.2 | 55.0 | 76.7 | 42.5 | 61.4 |
平均 61.4%,比最强基线 Router-R1 相对提升 11.03%,五个领域全部第一;对最强单轮、智能体基线的相对优势分别是 26.08% 和 31.20%。学到的模式分布也分域:Reason 99% 走智能体,Recall 96% 走单轮,Code 84% 走多轮,Knowledge 72% 单轮,Math 三种混用(19/50/31),事后印证了前提。
补充实验三条:
做模型网关的人能直接拿走两点:执行范式可以按查询学出来,不必在架构期押注单轮还是工作流,一个 4B 策略就够;α 在同一条策略上给出成本档位,省钱不用重训模型。渐进探索的教训对训练多模式 agent 普适:先喂足各模式的执行经验再放开选择,否则策略早期塌缩,这个现象比 RouteWeaver 的具体数字更值得记住。代码已开源。
对照面是一批固定范式路由器,绝对数字取决于这套 6 模型 Worker 池,换池子结论未必原样成立。
作者自述的边界:agentic 模式没有工具调用,角色固定四种,最多 8 次 Worker 调用,更丰富的执行结构和工具环境列为未来工作;训练只有 3,200 条查询。
存疑处:评测每题只跑一次系统 rollout,Worker 在 temperature 0.2 下采样,作者承认评测不完全确定,1 点上下的差距要留余地;成本只计 Worker 调用、按固定参考价折算,不含路由器自身的计算和编排开销;十个基线是否共享同一 Worker 池与训练数据,正文未明说。塌缩消融还透露一件事:完全塌成单轮也有 55.6,几乎追平 Router-R1 的 55.3,说明统一语法加训练配方本身就值不少分,模式多样性带来的增量集中在 Math、Code 这类重执行领域。