新解码法 CBS 无需训练让 beam search 在 MATH500 提升 8.2 分
hbouammar · x · 2026-11-12
作者团队提出 test-time self-distillation（CBS），把自蒸馏变成解码规则：用「优秀推理」与「错误推理」两个反事实上下文的 log-odds 差作为奖励信号，通过 beam search 近似 KL 正则化的最优策略，全程无需训练、无 demo、无 verifier。
- 在 12 个设置中 11 个取得最佳或并列最佳
- MATH500（Qwen3.5-0.8B）上较 beam search +8.2 分（48.0%）
- 上下文消融显示中性提示无效（38.0%），对比式提示带来 +11.1 分（50.9%）
- 在 HumanEval、GPQA 及多个模型规模上验证，方法论文已发 arXiv（2609.37041）
「研究」频道最新
- 学者称学界正形成「AI 种姓制度」,拒绝用 AI 者将成高危教士 — sebkrier · 2026-11-12
- PyTorch 2.15 LU 求解器性能暴跌百倍，作者劝勿升级 — ducha_aiki · 2026-11-12
- 图灵研究所论文：IMO 自主船舶法规存在安全论证缺口 — turinginst · 2026-11-12
- Caltech 教授 Anandkumar：AI 预测飓风路径更快更可靠 — AnimaAnandkumar · 2026-11-12
- 预印本：低频 EEG 领先瞳孔动态约 764 毫秒 — AnnaCiaunica · 2026-11-12
- PACT：为扩散语言模型的中间草稿步骤提供有效训练信号 — burkov · 2026-11-12