9B 模型靠采样推理逼近 GPT-5 水平,无需 RL 后训练
dwgreyman · x · 2026-10-01
论文《Explore Broadly, Reason Sharply: Push Small Models toward the Frontier via Sampling》提出 Parallel Power Tempering（PPT），一种推理时替代 RL 后训练的功率锐化采样方法：并行运行多个不同锐化程度的交互副本，低锐化副本负责广泛探索推理路径，高锐化副本强化高似然答案，并修复了此前 power sampler 的截断偏差。
作者称 9B 小模型有望借此接近 GPT-5 / Opus-4.5 级推理，几乎零额外成本、无需参数更新，泛化也更平滑（避免 RL 的 jagged generalization）。论文称这一方向显示小模型内蕴智能可能被低估，但工程化仍需大量工作。