Nat Lambert 反驳 RL 蒸馏直接用最强模型当老师
natolambert · x · 2026-07-21
Nat Lambert 反驳了一种说法：中文实验室在 RL 蒸馏时会拿最强模型当 teacher。
- 他认为这不是蒸馏的实际工作方式。
- 在 RL 里把最强模型直接拿来当 teacher，提升不会有那么大，因为 RL 的 grader 本身就很脏、很难处理，而且成本也承受不起。
- 这条讨论的核心是训练流程与蒸馏机制，而不是简单的模型能力八卦。
所属事件:专家澄清强化学习蒸馏：SFT 与中训才是关键(3 条相关)→
「研究」频道最新
- AlphaFold 背后是五十年实验数据，纯第一性原理仿真仍需实验 — vishalmisra · 2026-10-26
- Fern 团队提出「上下文即智能」:预测精度随上下文增至 1000 万 token 持续提升 — bneyshabur · 2026-10-26
- 研究者发现「Forking」现象：训练损失下降验证损失反升 — ZimingLiu11 · 2026-10-26
- DeepMind 试点全球首个双盲 AI 评测，密码学隔离防基准污染 — scychan_brains · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26
- FLASH 仿真框架：单卡 RTX 5090 上分钟级学会布料折叠 — ChongZzZhang · 2026-10-26