微软 When2Think:AIME24 Pass@3 提升 10%,token 用量省 27.9%
microsoft · hf · 2026-09-18
微软提出 When2Think,一个针对混合推理模型的后训练框架,解决大推理模型「简单题想太多、难题想不够」的系统性低效。
- 思路:把高效推理建模为按题目难度实例自适应分配算力的问题,学习何时用 System 1(直接作答)vs System 2(扩展推理)
- 方法:核心是 Instance-level Difficulty-Aware Control(IDAC)奖励塑形,利用预计算的准确率与 token 用量参考统计来调节推理深度;配合验证器奖励与批内标准化优势,无需学习奖励模型或在线参考模型查询即可稳定实现 critic-free 优化
- 结果:AIME24 上 Pass@3 提升 10.0%、token 用量减少 27.9%;AIME25 上达 40.0% Pass@3,超过压缩类和纯路由类基线
「研究」频道最新
- Anthropic 称将「即将」达到 RSP 加速 AI 研发阈值,并发布可证明推理研究 — tobyordoxford · 2026-11-04
- Google 扫描 1033 件真实家居品,打包成 345MB GLB 免费开放 — victormustar · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04
- 实测推翻常见建议:INT8 几乎无害,采样器才是关键 — YakovSava · 2026-11-04
- Karpathy 带火 HN 开源数据集:千万级帖子可当知识库直接用 — huangyun_122 · 2026-11-04
- PixelCraft 多智能体框架登场:专治多模态模型读图表翻车 — burkov · 2026-11-04