CMU 论文提出 unified training：预训练到后训练只用一个算法，换数据即可
heghbalz · x · 2026-10-30
CMU 联合 Johns Hopkins 与 Aurora 发表论文《Training Foundation Models with a Single Algorithm》，挑战「预训练/中期训练/SFT/RL 分阶段、各用各算法」的传统范式。
核心主张：
- 把预训练、SFT 与合适的 RL 目标统一为单一似然目标（作者称为 unified training），RL 生成数据以模型生成分布的极大似然形式并入静态数据混合
- 训练全流程只剩一个设计维度：选什么数据、什么比例、什么时候上——分阶段训练退化为数据配比的一种特例
- 控制实验与真实实验显示，在同等总算力预算下，unified training 比分阶段训练取得更高的准确率与任务覆盖，并为持续学习提供更强起点
- 论文系统刻画了数据混合比例与算力在预训练/中期训练/RL 间的分配对准确率、覆盖与保留的权衡
作者认为这为「基础模型训练全生命周期的统一科学」打下基础。rosinality 评价：预训练到后训练用同一个目标函数，只换数据。
所属事件:CMU 论文提出单一算法统一预训练与后训练(2 条相关)→
「模型」频道最新
- Humansand 发布 &Tutor：先建「学习者模型」再训教学模型 — techNmak · 2026-10-30
- Gemini 4 公开编码任务登顶,私榜却跌至垫底 — Hesamation · 2026-10-30
- Codex 疑似烧完用量额度才显示任务完成,用户质疑计时机制 — machpella · 2026-10-30
- Qwen4 要来了?qwen-code 代码中出现 120B 模型踪迹 — giveen · 2026-10-30
- 无缓存 agent 成本暴涨 260%，缓存折扣两年内从 0 到 95% — arena · 2026-10-30
- EachLabs 推出 Lockstep 模型：宣称价格便宜 75% 且质量更佳 — miilesus · 2026-10-30