Route Anything: A Study of Model and Policy Routing for General-Purpose AI Systems
Pengfei Zhou, Yixing Ma, Hexin Wang, Weidong Tang, Zhenglin Wan, Wangbo Zhao, Yang You
cs.CV
2026-11-04
在25个基准、37万次打分上,逐题最优比固定最强高5.4分,训出的路由器只多0.3分,对参考方案的效率平均到8.82倍。
通用系统要同时答题、写代码、出图、出视频、合成语音、操控机器人。候选是菜单上的一项:语言模型、生成器、机器人策略,或「便宜模型验不过再升级」这种整套计划。最好的一项随输入变。每个基准绑死最强候选,单题仍会选错。
路由工作此前几乎都在语言模型里,答不好就升级,或用偏好数据训练分派器。视频和机器人没有通吃的候选,语音则接近满分。跨模态缺的是同一批输入上的分数。
Route Anything 在看得到的状态上,选期望得分减去标价乘以期望消耗之后最大的候选。状态可以是基准名、整道题、能力类型,或三帧相机加机器人状态。没有标价,就选期望分最高的。先指定参考方案和掉分上限。地板之内把效率拉到最高,仍是按某一个价格来选,不必另做一套算法。效率按单位成本计,机器人按策略推理的秒数。
能到哪一档,取决于看见什么。最粗的一档,每个基准固定训练集上最强的候选。细一档按能力类型选。再细是逐题选事后最高分,称为 per-input oracle,部署时拿不到,只用来量上限。再往上是噪声:题目给定后,谁最高仍像抛硬币。AA-LCR 每题答三次,oracle 比固定候选高 2.4 分,换成三次均值后这 2.4 分消失。
路由器应回归每个候选自己的归一化得分,再选预测最高者。分类「谁赢了」会丢掉平局。机器人训练里,94% 的胜者标签由延迟平局决定,31408 条成功中 24556 条被标成错类,分类器转去挑快、但经常失败的策略。
分数来自一张全模态轨迹矩阵:25 个基准、452 套配置、374401 次打分。七组覆盖文本问答、图文问答、图像、视频、语音、代码与办公 agent、双臂操作,每组 3 到 7 个候选。语言模型是 Claude Opus 5.5、GPT-6.1 Sol、DeepSeek V4.1 Flash,长上下文和 agent 再加 GPT-6 Astra。输入按来源 70/10/20 切开。RoboTwin 的 2000 个测试场景来自没见过的 10 个任务。路由器微调 Qwen3.5-4B。能力树把输入分到最多 157 个叶子后查表,分不进就退回固定候选。机器人路由器再读三张 240×320 画面,给七条视觉语言动作策略各预测一次成功率。这种策略(VLA)吃画面和指令,直接输出动作。
每个候选都有分的测试输入共 19814 条、24 个基准。训练集挑出的固定候选 82.60,在测试集上重挑每个基准的最强者也只有 82.62。逐题 oracle 87.98,高 5.4 分。
| 组别 | 固定候选 | 逐题 oracle | 差距 |
| 文本问答 | 83.27 | 87.56 | 4.28 |
| 图文问答 | 85.32 | 88.02 | 2.70 |
| 图像生成 | 82.93 | 87.92 | 4.99 |
| 视频生成 | 62.43 | 81.36 | 18.93 |
| 语音生成 | 98.62 | 99.30 | 0.68 |
| 代码与办公 | 69.17 | 77.29 | 8.11 |
| 机器人 | 70.45 | 88.85 | 18.40 |
有能力标签的 18 个基准上,按类型事后选只收回差距的 8%。机器人按任务和场景条件选,收回 18.4 分里的 23%。
能力树路由器在 16 个基准、3444 条上得 79.98,固定候选 79.68,oracle 84.80。多出的 0.30 分约占天花板的 6%。视频从 62.17 到 64.28,代码与办公加 0.77,图像加 0.25,文本问答掉 0.17,语音持平。单点上 Terminal-Bench 的 36 条加 8.3,VBench-2.0 加 2.1,最大亏损是 AA-LCR 的 2.4。叶子分类准确率 86% 到 89%,仍有 83% 到 86% 的输入走固定候选。GenEval2 和 Qwen-Image-Bench 上 124 组配置,没有一组显著超过固定生成器,44 组显著更差。未经训练的 Qwen3.5-4B 直接点名,低 1.15 分。
机器人结果路由器成功率 71.55%,最强单策略 ME-Dex 为 70.45%,差 +1.10,区间 [-0.40, +2.55]。1000 个干净场景里 929 个派给 PatchWAM,1000 个随机化场景里 842 个派给 ME-Dex。策略时间从 14.51 秒降到 11.05 秒,少 24%。同样设置下,胜者分类只有 42.8%。
四个测试台的效率算术平均为参考方案的 8.82 倍。代码对始终调用 Opus 4.6 为 25.5 倍,掉 0.44 分,区间 [-1.75, +0.97],零损失拟合从不调用 Opus。文本对始终调用 GPT-4-1106-preview 为 7.1 倍,掉 0.40 分;完全避开参考会掉 9.7 分,所以零损失路线仍会升级。图像上 GPT Image 2.5 每张 0.21 美元,是其余生成器的 3.5 到 5.4 倍;半分容忍把成本降 26%,效率 1.35 倍,掉 0.47 分。机器人为 1.33 倍。探测集对半重拟合,200 次里拟合地板只有 12.5% 守住测试;认证后 200 次全守住,中位 19.4 倍。缺分会翻号:Opus 5.5 在 HLE 缺 11/1122 条,固定基线从 68.30 掉到 65.52,路由器从低 0.40 变成高 2.38。
视频和机器人的天花板各约 19 分。类型标签只摸到大约一成,训出来的路由器在 16 个基准上只多 0.3 分。质量接近、价格拉开时,稳的收益是少花钱:代码二十多倍,文本问答约七倍。4B 路由器在一张 H20 上每次决策 0.13 秒,出图要 27 到 158 秒,路由开销相对生成可以忽略。
三条规矩能直接用。候选放在同一批输入上比。学每个候选的得分,不学谁赢了。先定参考方案和容忍度,再用独立输入认证质量地板。任务内部加预算也不自动划算。Qwen3-Max 上,免费编译器门有 4.09 倍美元效率,掉 2.4 分;LLM 评判若免费是 2.63 倍,按标价只剩 0.30 倍。
0.3 分撑不起一个通用编排器。省钱这一头,在代码和文本上是实质的。
加分站不稳。16 个基准的 +0.3 只有一个训练种子。11 个基准、四个种子的结果路由器低 0.40,区间 [-1.19, +0.33]。机器人的区间同样跨过零。124 组图像配置没有一组显著赢过固定生成器。占输入约四分之三、占总差距约一半的七个理解基准没有进入学习评测,差距 1.4 到 6.0 分,包括 MMLU-Pro、MMLU-Redux、SuperGPQA、GPQA 和三个图文问答。差距大于 8 分的基准都进了学习实验,更容易做的理解任务留在外面。
5.4 分里有重复评测会抹掉的噪声。矩阵大部分不记成本,能力数字和效率数字来自不同测试台。8.82 倍是 25.5、7.1、1.35、1.33 的算术平均,代码参考模型是 Opus 4.6,矩阵里的语言模型是另一批。SciCode 被排除,因为后面的步骤含有模型自己前面写的代码。机器人只在一个操作基准里换了没见过的任务。认证把代码效率从拟合的 25.5 倍压到中位 19.4 倍,这层保证没有用到视频和图像的加分上。