RL/推理/预训练算力斜率不同,对应不同幂律指数
tobyordoxford · x · 2026-11-14
牛津学者 Toby Ord 在回复 Ramez Naam、Ben Todd、Allan Dafoe 等人的讨论中指出:benchmark 得分对 log(compute) 的斜率在 RL 算力、推理算力与预训练算力三种情形下各不相同,因此对应幂律的不同指数。由此推论:模型在随机任务上成功概率随 log(compute) 呈指数增长,即成功几率按算力的幂律增长。
所属事件:牛津学者 Toby Ord:RL 算力翻万倍才推升基准成绩(17 条相关)→
「研究」频道最新
- TestPrune:只跑相关回归测试,破解 AI 自动修 bug 的验证瓶颈 — burkov · 2026-11-14
- 幼儿只能从会回应的对象学新词,研究呼吁用响应式 AI 复测 — AnnaCiaunica · 2026-11-14
- Databricks 基准:上下文层让数据 agent 准确率 91% 远超前沿模型 58% — CautiousUse8597 · 2026-11-14
- MIT 教授将谈 AI 科学发现:智能体蜂群自主研究超材料 — ProfBuehlerMIT · 2026-11-14
- Walden 演讲:基座模型快速变强,中训练数据正被商品化 — ZeYanjie · 2026-11-14
- Nathan Lambert 反驳 Dwarkesh:持续学习并非 AI 进步的瓶颈 — natolambert · 2026-11-14