Route Anything 研究:模型路由平均省钱 8.82 倍,编码任务美元效率达 25.5 倍
rohanpaul_ai · x · 2026-11-11
UC Berkeley、NUS 等机构的 Route Anything 研究系统回答了「模型路由到底值不值」:
实验规模
- 覆盖 452 个候选模型/策略、25 个基准(从文本 QA 到机器人控制的多模态矩阵)、374,401 次打分运行
核心发现
- 平均而言,路由让单位成本的质量提升 8.82 倍,质量损失不到 0.5 分
- 理论上限:完美的按输入路由可比最佳单模型高 5.4 分;但实际学习到的路由在 16 个基准上只多赚 0.3 分——路由的价值主要在省钱而非变强
- 编码任务上,路由的美元效率达「永远调 Opus 4.6」策略的 25.5 倍(仅损失 0.44 分);文本 QA 为 7.1 倍
- 视频生成、机器人操控等模态也各有可观收益
实用建议:路由主要用于把工作搬到质量相近的更便宜模型;信任路由收益前,先让候选模型在相同输入上对比。
所属事件:Route Anything 研究:模型路由平均省钱 8.82 倍(2 条相关)→
「Infra」频道最新
- 黄仁勋婚外情邮件引爆舆论,作者梳理 Nvidia 芯片新加坡转运疑云全链条 — imdigitalashish · 2026-11-11
- 软银季度巨亏 70 亿美元:20 亿投资 Intel 翻成 105 亿又对冲亏损 — realsohamparekh · 2026-11-11
- Agent 发的邮件不在 Sent 文件夹?开发者用 IMAP Append 补上缺口 — kumard3 · 2026-11-11
- 开源推理引擎 Flide 发布:精确状态分叉加速决策推理最高 9.5 倍 — _akhaliq · 2026-11-11
- GPU「暗中」流向中国成 AI 圈公开秘密,东南亚云厂商疑有中国客户 — NaveenGRao · 2026-11-11
- Tensorlake 上并行 100 个 Harbor rollout:每分钟 47 次、每批仅 37 美分 — Wild_Independent_518 · 2026-11-11