Toby Ord:RL 后训练算力已达预训练 100%,再 10 倍扩张将极难
tobyordoxford · x · 2026-10-14
- 哲学家 Toby Ord 引用图表指出,RL 后训练算力已达到预训练算力的约 100%——这正是他 2025 年 10 月文章中预测的季度;此前他估计 RL 后训练已超预训练的 10%,一份可疑的 xAI 图表暗示两者已相当。
- 他认为一旦达到 100%,再 10 倍扩张就意味着整体训练预算 10 倍,即便做得到,厂商也更愿意把算力投入效率高得多的预训练。
- 但预训练扩张可能被「优质训练数据耗尽」(人类书籍已全部摄入)所阻塞。图表暗示 RL 扩张……(原文在此截断)
所属事件:Toby Ord:RL 后训练算力已与预训练持平(2 条相关)→
「漫话AGI」频道最新
- alphaXiv 绘制万篇论文热力图:传统 RL 后训练降温,Agent 与世界模型升温 — JayAlammar · 2026-10-14
- 人工神经元并不物理存在:LLM 只是一连串矩阵运算 — ValerioCapraro · 2026-10-14
- Agent 时代护城河之辩:经典护城河无恙,但转换成本正在归零 — lennysan · 2026-10-14
- 普通开发者感叹:AI 时代只剩创意和 token 是瓶颈 — masoomdon · 2026-10-14
- 重度用户复盘:ChatGPT 三年带来的净影响是正是负? — Alternative-Car8221 · 2026-10-14
- 论文揭「AI 裁员陷阱」:每家公司理性自动化,集体结果双输 — mdancho84 · 2026-10-14