Toby Ord 晒 OpenAI 曲线:RL 训练算力未见明显减速

tobyordoxford · x · 2026-10-15

哲学家 Toby Ord 参与关于 RL 算力 scaling 的讨论:他去年分析 OpenAI 稀缺数据时,未发现平滑的性能减速迹象,训练曲线看起来接近纯对数 scaling。配图显示 OpenAI o1/o3 在 AIME 上随算力增长的 Pass@1 曲线持续上升。此前 Ramez Natarajan 提问:多篇论文发现 RL 呈比 log scaling 更差的 sigmoid 曲线,如何看待?这一分歧构成 thread 的核心争论。

所属事件:Toby Ord:RL 后训练算力已达预训练规模,未见减速迹象(5 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →