预训练与RL存在协同放大
zeeshanp_ · x · 2026-07-18
作者认为，预训练与强化学习（RL）之间存在一种彼此促进的关系。 他指出，尽管单纯扩大预训练规模可能出现边际收益递减，但把 RL 规模做大后，可能会激发模型中原本潜伏的能力；而这些能力的出现，又依赖于模型容量和数据继续扩张。整体结论是：过去两年 frontier labs 通过扩大算力和迭代预训练配方，已经更清楚地看到这种“预训练 + RL”的协同效应，未来仍有不少新的 scaling 规律有待发现。
zeeshanp_ · x · 2026-07-18
作者认为，预训练与强化学习（RL）之间存在一种彼此促进的关系。 他指出，尽管单纯扩大预训练规模可能出现边际收益递减，但把 RL 规模做大后，可能会激发模型中原本潜伏的能力；而这些能力的出现，又依赖于模型容量和数据继续扩张。整体结论是：过去两年 frontier labs 通过扩大算力和迭代预训练配方，已经更清楚地看到这种“预训练 + RL”的协同效应，未来仍有不少新的 scaling 规律有待发现。