Toby Ord 重申 RL 观点：每 FLOP 可学信息上限更低，成就了今天的「参差」能力
tobyordoxford · x · 2026-09-24
哲学家 Toby Ord 在回复 @camhowe1729 时重申其文章观点，未因讨论而改变立场：- RL 的核心限制是每 FLOP 能学到的信息量上限远低于预训练，这引出两个问题——RL 为何仍然有效、以及它能走多远；- 部分答案可能在于 RL 学到的 bits 高度相关；- 他重读旧文后认为其中的预测依然成立，包括 RL 时代 AI 会在被 RL 训练的任务子集上大幅进步、而在其他能力上落后——即现在所说的「jagged（参差的）」智能。
所属事件:Toby Ord 重申 RL 信息效率受限论：每 FLOP 可学信息低于预训练(5 条相关)→
「漫话AGI」频道最新
- KOL 吐槽:评论区多 believe AI 致贫而非创造史上最大财富 — Dr_Singularity · 2026-11-11
- OpenAI GDPval:AI 胜人类专家比例从 12.4% 升至 83%,但团队为何仍在 — danshipper · 2026-11-11
- OpenAI 联创 Jack Clark:2028 年底前递归自我改进概率 60% — JacquesThibs · 2026-11-11
- 研究：近半数 STEM 博士论文用 AI 写，仅 4.7% 主动披露 — paulnovosad · 2026-11-11
- 学者主张教学生用 AI 拿反馈：反馈让你超强，代写让你脑死 — paulnovosad · 2026-11-11
- 学者谈 AGI 后人类立场：在乎人类之后的生命进程并非幼稚 — danfaggella · 2026-11-11