DeepMind 把 LLM 路由变成「潘多拉魔盒」问题,检索成本大降 96%
rohanpaul_ai · x · 2026-08-22
Google DeepMind 的新论文《Pandora's AI Model Routing Box: Efficient Allocation with Costly Value Estimation》针对一个实际问题:路由本应节省算力,但决定「路由给谁」本身也要花算力。论文的思路是——只有当更优决策的期望价值高于额外成本时,才在模型选择上花更多计算。
具体做法是把该决策建模为 Pandora's Box 问题:先给每个专家模型一个便宜的带噪分数,路由器只在额外信息的期望价值高于其成本时才付费获取更强的估计。
实验结果:在 MATH、RAG、EmbedLLM 上,Pandora's Router 的「路由遗憾+检查成本」综合指标在测试成本设置下平均最低或并列最低。在超过 100 个路由目标的 EmbedLLM 上,平均检查成本仅 0.075(对比始终运行昂贵估计器的 1.986),路由遗憾还从 0.370 降到 0.311。论文:arxiv.org/abs/2608.20316。
所属事件:DeepMind 用潘多拉魔盒思路优化模型路由,成本大降 96%(3 条相关)→
「模型」频道最新
- NVIDIA 上架 Qwen3.8-Flash-Next FP4 量化版,未发布新模型意外曝光 — TheZachMueller · 2026-10-16
- 号称最强美国开源模型 Muse Spark Open 上线 Nebius 首日支持 — Arindam_1729 · 2026-10-16
- 热门模型连续一周容量告急,用户吐槽换回 Opus — joonasvirtanen · 2026-10-16
- Sentry CEO 谈企业报销 Claude 订阅:合规但雇主多因 ZDR 不愿 — zeeg · 2026-10-16
- 数据说话:路由和安全分类用决策模型,中位速度快 7-8 倍 — randal_olson · 2026-10-16
- 小米 MiMo V2.6 Pro 登顶 Agent Arena 开源榜,成本仅 $0.11/任务 — arena · 2026-10-16