牛津学者估算:预训练算力回报指数约 0.9,推理算力约 0.6
tobyordoxford · x · 2026-11-14
牛津大学研究者 Toby Ord 在与 Ramez Naam、Ben Todd、Allan Dafoe 等人的讨论中,给出了对算力 scaling 回报的量化估算。
- 以 odds(成功率对数几率)衡量模型输出时,预训练算力的回报指数接近线性,他的粗略估算约为 0.9,即 odds ∝ FLOPs^0.9:回报仍是次线性的,但远好于对数关系。
- 推理算力方面,从 20% 成功率提升到 80% 往往只需约 100 倍算力,换算后指数约为 0.6(odds ∝ inferencecompute^0.6)。
这一估算为「更多算力还能买到多少能力」的争论提供了具体数值锚点:预训练的边际回报比常被声称的更接近线性,而推理侧的回报衰减更快。
所属事件:牛津学者 Toby Ord:RL 算力翻万倍才推升基准成绩(17 条相关)→
「漫话AGI」频道最新
- AI 竞赛终局猜想:多家均势或中心化全景监控 — CedricMakes · 2026-11-14
- 投资人称身边 60% 的人有某种 AI 精神症,越聪明陷得越深 — StewartalsopIII · 2026-11-14
- AI 不会让人人平等,反而比金钱更狠地拉开认知差距 — prasenx · 2026-11-14
- 幼儿只能从会回应的对象学新词,研究呼吁用响应式 AI 复测 — AnnaCiaunica · 2026-11-14
- 开发者感慨墨菲定律时代:数十亿并发事件让罕见故障成日常 — bingxu_ · 2026-11-14
- 开发者自述:agent 时代全能独立者反而更难被大厂雇用 — rudrank · 2026-11-14