新论文:Outcome RL 提升的多是完成率和可靠性,而非新解题能力
Shan Yang · hf · 2026-10-29
单作者论文《What Outcome RL Buys》对 20 个已发布 RL 模型(1.5B–32B)与其基座思考模型做了系统对比,在物理与数学题、固定 token 预算下拆解 pass@1 增益的来源。
- 核心结论:Outcome RL 提升 pass@1 但不提升大 k 的 pass@k,说明它主要改变行为而非获得新知识。
- 作者把每次变化拆为三部分:Finishing(在预算内答完)、Reliability(答完后的正确率)、Reach(解出基座八次全错的题,减去镜像项)。
- 发现:(1) 基座经常撞 token 上限的题目上,RL 的收益主要来自更快答完(finishing);(2) 已能答完的题上收益来自更可靠;(3) 固定预算下 reach 增益微乎其微。论文用分组柱状图给出量化证据,finishing 与 reliability 项贡献了绝大部分 pass@1 提升。
「模型」频道最新
- Fireworks AI 联合 31 家伙伴推 Specialized Intelligence 评测指数 — ycombinator · 2026-10-29
- Albert Gu:H-Net 字节级建模效率提升 3-5 倍,逼近 bitter lesson 理想 — stochasticchasm · 2026-10-29
- Particle 发布 particle-1:少用 45% token 保持性能持平 — garrytan · 2026-10-29
- AA 智能指数 v5.0:Gemini 4 Carbon 以 59 分登顶但暂无公开 API — cgarciae88 · 2026-10-29
- repligate:Opus 3 的独特之处是跨情境稳定做出「英雄式」价值抉择 — repligate · 2026-10-29
- Gemini 4 Carbon 基准曝光,TheZvi 改判 Argon 已非完全前沿 — TheZvi · 2026-10-29