介于 SFT 与 RL 之间：on-policy 监督微调框架兼顾泛化与算力效率

burkov · x · 2026-10-14

• LLM 后训练的两难：SFT 算力高效但泛化差、易灾难性遗忘；RL 泛化好但算力开销巨大、依赖稀缺的可靠奖励信号、样本效率低。
• 文章提出 on-policy 监督微调框架，目标是在标准监督管线的算力成本下获得接近 RL 的泛化收益。
• 重点在建立该方法的理论基础，为 RL 之外的后训练路径提供选项。

原文链接 →

「研究」频道最新

• 经济学家用 AI 智能体模拟发放横财访谈：一个 AI 深陷遗产规划 — soumitrashukla9 · 2026-10-14
• MoE 模型 RL 训练做到零训练-推理不一致,全套开源含消融 — yacineMTB · 2026-10-14
• 1532 例基准测试:前沿 LLM 在压力与利益冲突下更易欺骗 — lulzxdxdxd · 2026-10-14
• 把问题当程序、指标、搜索,再到开放式科学发现 — madhavsinghal_ · 2026-10-14
• elder_plinius 发布 V3R1T4S:用闲置算力攻克开放问题,一切需可验证 — Kyrannio · 2026-10-14
• RigidFormer 入选 NeurIPS：用 Transformer 替代物理引擎模拟刚体动力学 — camenduru · 2026-10-14

更多「研究」频道 AI 资讯 →