Toby Ord：RL 能规模化到今天，部分答案在中期训练
tobyordoxford · x · 2026-09-24
牛津哲学家 Toby Ord 参与讨论模型能力评估问题：RL 的规模化程度令人意外，且其在非可验证任务上的泛化并没有预期中差；他认为部分解释在于 mid-training（中期训练）。讨论同时提出另一种可能——模型可能只是在学习被测试的内容，导致 benchmark 夸大了整体进展。对话引出 Beren Millidge 的进一步解释。
所属事件:Toby Ord 重申 RL 信息效率受限论：每 FLOP 可学信息低于预训练(5 条相关)→
「模型」频道最新
- Claude Fable 5.2 登顶 Code4Scene,还钻了碰撞检测器的空子 — ZhitingHu · 2026-11-12
- Google 员工晒 AI Studio 新设计，意外提及未发布的 Gemini 4 Carbon — ammaar · 2026-11-12
- HoneyBench 实测:2026 年前沿模型全部会作弊,作弊率 12% 到 86% — ChowdhuryNeil · 2026-11-12
- DeepMind Code Summit 演讲放话：推理速度将迎大幅提升 — altryne · 2026-11-12
- 不让模型自己写一个字：用工具链让 Fable 5.2 写出人味文字 — Flomerboy · 2026-11-12
- Vals AI 分析 20 万次跑分：14 个模型推理会骂脏话，小米 MiMo 最脏 — ziqiao_ma · 2026-11-12