Barak Rotblat 发问：RL 训练凭什么「涌现」出如此好的 LLM 推理轨迹
BarakRotblat · x · 2026-09-25
Barak Rotblat 在与 Yoav Goldberg 的讨论中坦言：当前 LLM 的推理轨迹「好得离谱」，他无法理解这些能力如何从 RL 训练中产生——即便有初始 CoT 能力，即便做了数十亿次 rollout，也缺乏一个机制层面的心智模型去解释。
他的当前最佳猜测是：靠砸大量资金产出人工示例，然后做 SFT。但他自己也怀疑「真的就这么简单吗？」
Goldberg 的回应见同线程：他不认为这是涌现，并区分了一般推理能力与前沿模型的特定推理水平。
所属事件:学者激辩前沿模型推理能力从何而来(12 条相关)→
「漫话AGI」频道最新
- KOL 吐槽:评论区多 believe AI 致贫而非创造史上最大财富 — Dr_Singularity · 2026-11-11
- OpenAI GDPval:AI 胜人类专家比例从 12.4% 升至 83%,但团队为何仍在 — danshipper · 2026-11-11
- OpenAI 联创 Jack Clark:2028 年底前递归自我改进概率 60% — JacquesThibs · 2026-11-11
- 研究：近半数 STEM 博士论文用 AI 写，仅 4.7% 主动披露 — paulnovosad · 2026-11-11
- 学者主张教学生用 AI 拿反馈：反馈让你超强，代写让你脑死 — paulnovosad · 2026-11-11
- 学者谈 AGI 后人类立场：在乎人类之后的生命进程并非幼稚 — danfaggella · 2026-11-11