牛津学者激辩RL算力与AI任务时长的幂律关系

牛津哲学家 Toby Ord 与经济学家 Basil Halperin、Ramez Naam 就 METR 的 AI 任务时长（time horizon）scaling 曲线展开了一系列讨论，焦点是该曲线是否为幂律、以及算力增长能否解释观察到的任务时长快速延长。

已确认

Toby Ord 指出，相关论文把关键的幂律指数藏在脚注里，数值为 0.454：在数据与算法等因素不变的假设下，算力需扩大约 100 倍，模型可完成的任务时间视野才延长 10 倍。该指数还被用作算法进步的上限参照。
Ord 给出估算：2025 年 RL 后训练算力约每 4-5 个月增长 10 倍，而新预训练可能已基本停滞；RL 指数约 0.3，即 RL 算力每 10 倍可将任务时长翻倍。
该 0.3 的指数约为「RL 指数为预训练 1/3」这一粗略经验法则所得结果的两倍，提示 RL 后训练算力收益可能比简单外推更高。
Basil Halperin 回应「RL scaling 有 log 问题」的质疑，推导认为时域对 RL 算力大概率仍是幂律，并引用 Whitfill-Snodin-Becker 论文（实证+理论模型）；预训练算力 100 倍约等效于 RL 算力 100 万倍。
Ord 补充：Whitfill-Snodin-Becker 论文在图表之后还给出按 Chinchilla 最优等效调整训练算力的版本，幂律拟合更优，共享斜率 R² 从 0.906 提升（帖中未给出具体提升后数值）。

Ord 质疑算力增长速度不足以支撑 METR 观察到的结论：早期预训练算力每 12 个月仅增长约 5 倍，后期更慢；若任务时长倍增期从 7 个月缩短到 4 个月且完全归因于算力，则 2024 年前训练算力需每约 4 个月翻两番，与历史增速不符。
Ord 还指出，实测曲线可能只是「时间快照」（算力变化而算法/数据质量未变），而历史前沿是三者同时提升，这会影响论文的头条结论；预训练算力增益是否足够支撑新幂律结论仍存争议。

这组讨论直接关系到「AI 任务时长何时达到人类工作日级」的外推是否可信：若幂律指数确实为 0.454 且算力增速放缓，仅靠算力扩展难以维持当前的任务时长延长速度，意味着算法进步的贡献可能被低估，或未来扩展将显著放缓。

2026-11-09 ~ 2026-11-09 · 10 条相关