混合决策模型论文:只在30%问题上推理,延迟降72.5%
hbouammar · x · 2026-11-15
来自华为诺亚方舟实验室、利物浦大学与UCL的新论文《The Value of Thinking》提出混合决策模型(HDM):一个冻结的骨干网络既可零 token 直接出答案,也可在预测收益超过成本时切换到显式推理模式。
核心要点:
- 用一个轻量自路由块估计「思考的价值」,即慢模式预期带来的效用提升,而非单纯的不确定性;并配套 CDPO 强化学习配方,用回合级回报训练路由块。
- 在 JevBench 上,4B 模型准确率 85.7%(对比基线 Jev 的 85.1%),中位延迟 179ms vs 652ms(降低 72.5%),仅对约 30% 的问题启用显式推理;在 MiniWoB 上 27B 版本 token 成本削减 80.1%。
- 作者强调与现有自适应推理方法的区别:不是决定「思考多少」,而是学习「思考是否值得」,这对需要反复做决策的 agent 场景尤其关键。
所属事件:新论文提出混合决策模型,让 AI 学会何时思考(3 条相关)→
「漫话AGI」频道最新
- Aaron Levie:工作将主动「代码化」以适配 AI agent 的长处 — RaphaelDabadie · 2026-11-15
- 15 天 2234 条报道全图谱:追踪 AI 议题的媒体覆盖与利益关联 — kevinnbass · 2026-11-15
- 「友善 AI 单体」推导引争议:权力集中反而利于生存? — jessi_cata · 2026-11-15
- 理发师上周才听说 ChatGPT:多数普通人仍未接触 AI — AI_Andrew · 2026-11-15
- 研究者反驳 Dwarkesh:定义并爬升 AGI 指标才是硬问题 — dhadfieldmenell · 2026-11-15
- 研究员吐槽:没人能分辨X上的AI回复,这才是最可怕的 — iScienceLuvr · 2026-11-15