Toby Ord 晒 OpenAI 曲线:RL 训练算力未见明显减速
tobyordoxford · x · 2026-10-15
哲学家 Toby Ord 参与关于 RL 算力 scaling 的讨论:他去年分析 OpenAI 稀缺数据时,未发现平滑的性能减速迹象,训练曲线看起来接近纯对数 scaling。配图显示 OpenAI o1/o3 在 AIME 上随算力增长的 Pass@1 曲线持续上升。此前 Ramez Natarajan 提问:多篇论文发现 RL 呈比 log scaling 更差的 sigmoid 曲线,如何看待?这一分歧构成 thread 的核心争论。
所属事件:Toby Ord:RL 后训练算力已达预训练规模,未见减速迹象(5 条相关)→
「研究」频道最新
- UniForge3D 开源:稀疏视角输入直接重建生成高保真 3D 网格 — camenduru · 2026-10-15
- 六美分跑完 2416 局对局:被造来分流工单的模型预测人类选择竟不差 — RexDouglass · 2026-10-15
- 独立团队论文:VQA 中 LLM 知识浅层融合反胜深层注入 7.6 个点 — Aneerban Saha · 2026-10-15
- 890 万条事件:首个多智能体群体可观测性数据集开源上线 — strickvl · 2026-10-15
- 物理基准测 8 个视频模型:第一名 Seedance 2.5 也仅 57.76 分 — jiqizhixin · 2026-10-15
- MIT斯坦福谷歌等联合综述:7 项机器人自我改进研究 5 项无法跨任务复现增益 — rohanpaul_ai · 2026-10-15