并行回火采样让 9B 模型推理逼近 GPT-5,无需 RL 后训练

论文《Explore Broadly, Reason Sharply》提出推理期采样方法,摩根士丹利团队称之为并行回火采样(Parallel Power Tempering, PPT)。该方法无需参数更新与外部奖励,也不依赖 RL 后训练,仅通过推理阶段的大量采样与筛选,即可让 90 亿参数的小模型在推理任务上逼近 GPT-5 等前沿模型水平,被视为强化学习后训练的一种低成本替代路径。

2026-10-01 ~ 2026-10-02 · 2 条相关