DeepMind 把 LLM 路由变成「潘多拉魔盒」问题,检索成本大降 96%

rohanpaul_ai · x · 2026-08-22

Google DeepMind 的新论文《Pandora's AI Model Routing Box: Efficient Allocation with Costly Value Estimation》针对一个实际问题:路由本应节省算力,但决定「路由给谁」本身也要花算力。论文的思路是——只有当更优决策的期望价值高于额外成本时,才在模型选择上花更多计算。

具体做法是把该决策建模为 Pandora's Box 问题:先给每个专家模型一个便宜的带噪分数,路由器只在额外信息的期望价值高于其成本时才付费获取更强的估计。

实验结果:在 MATH、RAG、EmbedLLM 上,Pandora's Router 的「路由遗憾+检查成本」综合指标在测试成本设置下平均最低或并列最低。在超过 100 个路由目标的 EmbedLLM 上,平均检查成本仅 0.075(对比始终运行昂贵估计器的 1.986),路由遗憾还从 0.370 降到 0.311。论文:arxiv.org/abs/2608.20316。

所属事件:DeepMind 用潘多拉魔盒思路优化模型路由,成本大降 96%(3 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →