Meta 研究员:动 RL 之前先做足 SFT,否则等于白花钱
DimitrisPapail · x · 2026-11-06
Meta 研究员 Dimitris Papail 发表训练路线判断:「苦涩教训的真正版本是——在碰任何 RL 之前,尽可能做足 SFT(监督微调),除非你喜欢无缘无故烧钱。」
这一说法在训练圈引发了关于 SFT 与 RL 阶段性价比的讨论:核心主张是把资源优先投入到高质量的 SFT,再进入强化学习阶段,否则 RL 的投入回报会很差。
「研究」频道最新
- 研究者叹 LLM 评审已成定局：别再拿它当拒稿借口 — examachine · 2026-11-06
- 芝大数据科学 Rising Stars 2026 名单公布，聚焦世界模型与多模态数据基础 — cindy_x_wu · 2026-11-06
- Surge 研究团队点赞 Tinker：并行跑 RL 实验，一行代码换模型 — echen · 2026-11-06
- 120B 开源模型经 Surge RL 训练，12 项基准全面逼近 GPT-5.6 — echen · 2026-11-06
- BMVA 计算机视觉可解释性研讨会征稿:2027 年 1 月伦敦举办 — HildeKuehne · 2026-11-06
- Memorilla 记忆系统：省 4000 倍 token、快 27 倍替代全上下文推理 — ShirleyYXWu · 2026-11-06