FLEET:用 MCTS 给采样加记忆,GSM8K 半数迭代即达基线
Helpful_Minimum_2214 · reddit · 2026-10-02
作者团队提出 FLEET 算法,让 Best-of-N 生成「记住」外部奖励:把高熵/高 varentropy 的 token 状态视为分支点,将归一化隐藏状态存入向量库并映射到含奖励历史的元数据,再用改进的 MCTS 对 top-k token 排序、惩罚次优分支,最后以修改后的 logits 解码。
在 Llama 3.2 3B 上的结果:
- GSM8K:多解出 7 题,且用一半迭代即达到采样基线。
- LiveCodeBench v6 easy:同预算下分数从 0.59 提到 0.69,仅 9 次迭代即达基线(基线需 32 次)。
方法无需串行执行——迭代中不更新,可直接作为查找表并行使用;元数据还可作为其他任务的先验或用于充实 SFT/RL。论文与代码均已开源。
「研究」频道最新
- AdaBoost 悬置近 15 年的问题被解决,LLM 助力论文入选 NeurIPS 2026 — chetanp · 2026-11-19
- Anthropic 分析 20.7 万科研会话:数据分析占三分之一,形式科学用得最狠 — plopesresearch · 2026-11-19
- Ramp 发布 SWE-Bench v2:500 个真实生产任务,Astra 以 76.4% 居首 — AniBaddepudi · 2026-11-19
- 斯坦福 Le Cong 将在 mRNA 大会讲 AI 共科学家做 RNA 设计 — MengdiWang10 · 2026-11-19
- SAIL 2027 征稿开启:AI 临床医疗研究摘要 1 月 15 日截止 — zakkohane · 2026-11-19
- 学术圈 LLM 悖论:作者都用 AI 写论文,却没人愿读或被 AI 评审 — wandedob · 2026-11-19