Toby Ord 质疑前沿模型训练算力增益不足以支撑新幂律结论

tobyordoxford · x · 2026-11-09

Toby Ord 与 Basil Halperin、Ramez 讨论一项关于进步幂律的研究:对方可能的回应是实测曲线只是「时间快照」——算力变化而算法/数据质量未变,而历史前沿是两者同时提升,这会影响其头条结论。Ord 进一步指出,(预)训练算力在早期约每 12 个月增长 5 倍,后期更慢,因此按其幂律推算的收益,单靠前沿模型的预训练算力增长解释不通。

所属事件:学者激辩RL扩展规律:算力与时间跨度或呈幂律(10 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →