Toby Ord 实测:推理算力百倍可从 20% 到 80%,RL 需万倍
tobyordoxford · x · 2026-11-14
牛津学者 Toby Ord 在与 Ramez Naam、Ben Todd、Allan Dafoe 等人的讨论中,给出了一组关于「用算力换成绩」的实证对比:
- 推理算力(inference compute):从 20% 准确率提升到 80%,通常只需约 100 倍算力,对应幂律 odds ∝ compute^0.6。他引用 ARC-AGI-1 榜单上各 OpenAI 模型按单任务成本与得分的分布作为佐证。
- RL 训练算力(RL compute):在多个推理基准上,同样从 20% 到 80% 往往需要约 10,000 倍算力,对应幂律 odds ∝ RLcompute^0.3,效率低一个量级;另一张 OTIS Mock AIME 2024-25 的图显示,base model 几乎不随 token 数提升,而 RL 后训练后的模型随推理 token 增长近似沿 100 倍提升 20-80% 的斜率。
核心结论:推理时的测试时扩展(test-time scaling)比 RL 后训练扩展更「划算」,两者相差约两个数量级的算力效率。
所属事件:牛津学者 Toby Ord:RL 算力翻万倍才推升基准成绩(17 条相关)→
「研究」频道最新
- NeurIPS 最佳论文:扩散模型训练约 300 步/图后才开始记忆训练集 — Mastbubbles · 2026-11-14
- TestPrune:只跑相关回归测试,破解 AI 自动修 bug 的验证瓶颈 — burkov · 2026-11-14
- 幼儿只能从会回应的对象学新词,研究呼吁用响应式 AI 复测 — AnnaCiaunica · 2026-11-14
- Databricks 基准:上下文层让数据 agent 准确率 91% 远超前沿模型 58% — CautiousUse8597 · 2026-11-14
- MIT 教授将谈 AI 科学发现:智能体蜂群自主研究超材料 — ProfBuehlerMIT · 2026-11-14
- Walden 演讲:基座模型快速变强,中训练数据正被商品化 — ZeYanjie · 2026-11-14