RL为何能提升SFT后的推理
burny_tech · x · 2026-07-12
这条转发在解释一篇论文对“为什么 RL 会在 SFT 之后改善推理”的看法:
- SFT 往往直接给出完整解题过程,但其中真正有用的部分会被混在一起,模型学到的是一团难以拆分的整体。
- RL 通过奖励引导下的变异,帮助模型把这些信息拆成更可复用的技能和路由规则。
- 这样之后,模型就能在 SFT 没见过的新问题上,把这些技能重新组合起来。
「研究」频道最新
- Qwen3.8-Flash-Next 开源 180B 权重,被视为后门研究理想样本 — jd_pressman · 2026-10-27
- Latent-Foresight:让世界模型学着预判自己的未来 — abursuc · 2026-10-27
- 英国 AISI 发文:现有手段不足以防生物 AI 工具被滥用 — davidmanheim · 2026-10-27
- CMU 发布 XYBench:LLM 只答字面问题,常无视用户真实需求 — valentina__py · 2026-10-27
- arXiv 前主席提示:投稿主分类选错,论文几乎必被搁置 — tdietterich · 2026-10-27
- arXiv 积压超 4000 篇论文被搁置,版主致歉并给出避坑建议 — tdietterich · 2026-10-27