Toby Ord 补充:RL 或只在学被测内容,基准或高估进展
tobyordoxford · x · 2026-09-24
在回应 Beren Millidge 新文时,Toby Ord 重申其对 RL 的核心观点:RL 每单位 FLOP 能学到的信息上限远低于预训练,这引出「它为何有效、能走多远」的疑问。他补充一种可能的解释——bits 虽少但极其相关,以及 RL 可能只在学习被测试的内容,因此基准测试可能误代表了整体能力进展。
他表示很高兴看到 Millidge 对这些问题给出更深入的解释。
所属事件:Toby Ord 重申 RL 信息效率受限论：每 FLOP 可学信息低于预训练(5 条相关)→
「漫话AGI」频道最新
- Nina Schick：最大风险不是超级智能，而是我们没能建设 — NinaDSchick · 2026-11-12
- 斯坦福办 AI 科研协作黑客松：聚焦人与智能体共创研究 — StanfordHAI · 2026-11-12
- keerthanpg:机器人学家仍不接受苦涩教训,CoRL 现场五阶段哀伤 — keerthanpg · 2026-11-12
- AI 2027 作者回应质疑：预测已注明以无减速为前提条件 — eli_lifland · 2026-11-12
- 数学家为何恐慌:AI 正让「声誉点数」通胀贬值 — virtuolie · 2026-11-12
- 投资人直言：消费软件的 AI 扩散将是最慢的 — MartinGTobias · 2026-11-12