RLVR 每 10 倍算力换 3 倍 token 效率,新模型提升疑集中在数学域
tobyordoxford · x · 2026-09-14
牛津大学哲学家 Toby Ord 回复 Ramez Naam:他此前观察到的经验法则是,RLVR(可验证奖励强化学习)的算力每提升 10 倍,达到同等水准所需的 token 数约减少 3 倍(附论文链接)。
Ramez 回应称模型间的跨越式进步相当于 2-3 个数量级的 token 提升,并猜测这个新模型在形式数学上做了大量 RL 训练,认为具体收益可能局限于数学领域,「我们迟早会知道」。两人对最新模型的能力跃升是否具有跨领域泛化性持审慎态度。
所属事件:Toby Ord与Ramez激辩推理扩展曲线:斜率减半、代际跳跃巨大(5 条相关)→
「模型」频道最新
- 爆料称 Google 在 carbon 之后还藏有另一款「超重」模型 — iruletheworldmo · 2026-10-30
- 用户抱怨 GPT 质量全面下滑:写剧本变水、agent 指令遵循崩了 — Kyrannio · 2026-10-30
- OpenAI 将分批下架大量旧模型,GPT-5 全系 12 月停用 — ThePeterMick · 2026-10-30
- DeepMind CEO 回应马斯克:正在向可信伙伴测试,很快推出 — demishassabis · 2026-10-30
- Adobe 坚持不用用户数据训练模型:改用图库与授权内容 — omooretweets · 2026-10-30
- 实测者背书:Mistral 新模型快且便宜,真实任务表现扎实 — _AndrewZhao · 2026-10-30