CMU 论文：用单一似然算法统一预训练、SFT 与 RL 训练全流程
CarnegieMellonU · hf · 2026-10-31
- 卡内基梅隆大学联合 Johns Hopkins 与 Aurora Innovation 的论文提出 unified training：将预训练、midtraining、SFT、RL 各阶段统一为单一基于似然的训练算法。
- 核心思路是把 RL 目标推导为对模型生成目标分布的最大似然拟合，从而消除各阶段在数据与算法上的分裂。
- 由此 foundation model 训练被转化为「选哪些数据、什么比例、何时训练」的问题，传统分阶段训练成为该框架的特例。
- 作者实现了混合静态数据与 RL 生成内容的统一训练系统，报告效率提升并更好保留模型能力。
所属事件:CMU 等提出统一训练：单一算法贯穿预训练到 RL(4 条相关)→
「研究」频道最新
- 研究脑细胞四年后，这家公司发布了半美分一秒的视频模型 mischief 1 — emmanuelvivier · 2026-10-31
- 在 Qwen 4B 里定位「爱因斯坦神经元」并引导三种人格回答 — thursdai_pod · 2026-10-31
- 蛋白质结合评分横评:ipDAE 稳定领先,OpenDDE+ipTM 意外强 — AllThingsApx · 2026-10-31
- Turing TTS 新评测：最好 TTS 模型仅 10% 听众误认为真人 — omarsar0 · 2026-10-31
- 架构消融实测：2020 年后最有用的改进是细粒度 MoE — stochasticchasm · 2026-10-31
- LeCun 将在 MAIN2026 发表主题演讲:AI 为何需要学会理解世界 — karimjerbineuro · 2026-10-31