Meta:更强基座让后训练能力更好迁移,预训练 scaling 仍是关键

haider1 · x · 2026-10-13

针对当下「RL 后训练才是王道」的流行叙事,这条帖子援引 Meta 的说法作为提醒:预训练 scaling 依然重要。

Meta 表示:「更强的基座模型能让后训练的增益更好地迁移到训练中没见过的陌生任务上,而不仅限于训练过的那些任务。」言下之意,基座不够强,RL 调出来的能力容易过拟合在训练分布内。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →