Meta:更强基座让后训练能力更好迁移,预训练 scaling 仍是关键
haider1 · x · 2026-10-13
针对当下「RL 后训练才是王道」的流行叙事,这条帖子援引 Meta 的说法作为提醒:预训练 scaling 依然重要。
Meta 表示:「更强的基座模型能让后训练的增益更好地迁移到训练中没见过的陌生任务上,而不仅限于训练过的那些任务。」言下之意,基座不够强,RL 调出来的能力容易过拟合在训练分布内。
「模型」频道最新
- Muse 发布 Wonder 前沿模型家族,主打智能体任务 — jyangballin · 2026-10-13
- Muse Wonder 被指刷榜:比 SWE 2 贵 24 倍实测却更差 — lyraxana · 2026-10-13
- 写作为王:科技作者称因文风从 Claude Opus 5.5 转投 Gemini 4 — iamtrask · 2026-10-13
- 传 Gemini 4 Argon 一把生成 3D 国际象棋,作者称被震撼 — cgarciae88 · 2026-10-13
- Meta 新模型 Muse Wonder 上线 OpenRouter 平台 — jeff_weinstein · 2026-10-13
- Muse 高级工程师基准成绩被撤回,作者自曝测试流程出问题 — danshipper · 2026-10-13