Projection sampling：让 SFT 学新能力不遗忘旧技能

NeurIPS 论文《Finetuning with Sampling: SFT Learns Better Than You Think》提出 Projection sampling 框架：通过 MCMC 采样对离策略训练数据进行变换重写，让监督微调（SFT）在引入新能力的同时减少灾难性遗忘、提升泛化。实验显示该方法效果可匹敌甚至优于 RL 与 OPS 等主流后训练方案，表明 SFT 并未过时。

2026-10-02 ~ 2026-10-03 · 4 条相关

• 教皇称 AI 生成物非艺术，Shipper 回应：只有人机共创 — danshipper · 2026-10-02
• 教皇谈 AI 艺术，Schmidhuber 撰文回应引热议 — Merzmensch · 2026-10-03
• 教宗良十四世:AI 生成图像与人类艺术存在「本体论差异」 — bennash · 2026-10-03
• 教皇以拉丁文发声：算法没有火花，AI艺术与人类艺术本体论上不同 — sorenrood · 2026-10-03