新论文挑战「RL 泛化、SFT 只会记忆」行业共识

自 DeepSeek-R1 发布以来,「RL 负责泛化、SFT 只能记忆」几乎成为行业默认假设,SFT 在域外推理上表现不佳时往往归咎于算法本身。一篇来自新加坡国立大学与耶鲁等机构、入选 NeurIPS 的论文《Rethinking "RL Generalizes, SFT Memorizes": The Role of SFT Data》在 Qwen2.5 等模型上实验发现,只要 SFT 数据配置得当,其表现可以反超 RL,观点引发社区热议。

2026-11-17 ~ 2026-11-18 · 2 条相关