Toby Ord 初步测算：RL、推理与预训练算力的 scaling 指数各不相同
tobyordoxford · x · 2026-11-14
牛津哲学家 Toby Ord 在与 Ramez Naam、Ben Todd、Allan Dafoe 等人的讨论中分享了对 scaling 定律指数大小的初步观察。他注意到，benchmark 分数对 log(compute) 作图的斜率在 RL 训练算力、推理算力和预训练算力三者之间并不相同，意味着这三条路径对应不同的幂律指数——即把模型能力推向下一个量级时，不同算力投入方式的「性价比」并不一致。作者自述只是初步玩了一阵，数据尚非严谨结论。
所属事件:牛津学者 Toby Ord：RL 算力翻万倍才推升基准成绩(17 条相关)→
「研究」频道最新
- NeurIPS 最佳论文：扩散模型训练约 300 步/图后才开始记忆训练集 — Mastbubbles · 2026-11-14
- TestPrune:只跑相关回归测试,破解 AI 自动修 bug 的验证瓶颈 — burkov · 2026-11-14
- 幼儿只能从会回应的对象学新词,研究呼吁用响应式 AI 复测 — AnnaCiaunica · 2026-11-14
- Databricks 基准：上下文层让数据 agent 准确率 91% 远超前沿模型 58% — CautiousUse8597 · 2026-11-14
- MIT 教授将谈 AI 科学发现:智能体蜂群自主研究超材料 — ProfBuehlerMIT · 2026-11-14
- Walden 演讲：基座模型快速变强，中训练数据正被商品化 — ZeYanjie · 2026-11-14