Toby Ord与Ramez激辩推理扩展曲线：斜率减半、代际跳跃巨大

牛津大学哲学家 Toby Ord 与 Ramez Naam 围绕新一代推理模型的扩展曲线展开讨论，揭示出「斜率变缓但代际跳跃巨大」的矛盾现象。Ord 预告将撰文详细分析，二人并对 RLVR 收益分布提出猜测。

已确认

• Toby Ord 援引其经验法则：RLVR（可验证奖励强化学习）算力每提升 10 倍，达到同等水准所需 token 约减少 3 倍（附论文链接）。
• 新模型相对旧模型的能力跳跃，等效于旧模型多消耗 100 倍 token 才能触及，Ord 称这相当于约四个世代的跨越（如 o1→o3→GPT 系列）。
• 新模型的推理扩展曲线斜率约为 o1/o3 在 AIME 上的一半：从 20% 提升到 80% 需要 10,000 倍算力（token）。
• Ord 强调「对数级推理扩展」这一基本规律依然成立。

尚未确认

• Ord 猜测斜率减半可能因新数据集题目难度方差更大，但这只能解释斜率差异，无法解释代际间的大跳跃。
• Ramez 猜测新模型可能在形式数学上做了大量 RL 训练，导致收益高度偏向数学领域；Ord 也注意到新模型提升疑集中于数学域。这些均为推测，尚无官方证实。

为什么重要

• 代际跳跃的价值可观：Ramez 认为巨大跳跃足以「支付」2-3 个数量级的额外 token 消耗，即使斜率变差仍划算。
• 若收益确实偏科于数学，意味着通用领域的提升可能被高估，对评估模型真实能力与未来 RLVR 投向具有参考意义。

2026-09-14 ~ 2026-09-14 · 5 条相关

• 【源头】新模型算力斜率减半：20%到80%需万倍算力，代际跳跃却更大 — tobyordoxford · 2026-09-14
• 【源头】ramez：代际跳跃值两三个数量级token，猜测新模型重RL数学 — ramez · 2026-09-14
• RLVR 每 10 倍算力换 3 倍 token 效率,新模型提升疑集中在数学域 — tobyordoxford · 2026-09-14
• 【源头】新代际提升等效旧模型多用100倍token，相当于四个世代的跳跃 — tobyordoxford · 2026-09-14
• 斜率减半或因新数据集难度方差更大，对数扩展依然成立 — tobyordoxford · 2026-09-14