Yoav Goldberg:LLM 推理链强得反常,难以解释其如何从 RL 中涌现
yoavgo · x · 2026-09-25
AI 学者 Yoav Goldberg(Yoav Goldberg, yoavgo)发推称,当前 LLM 的推理痕迹(reasoning traces)质量高得让他无法理解——他无法建立心智模型解释这些能力如何从 RL 训练中「涌现」,即使模型初始具备 CoT 能力、即使做了数十亿次 rollout。他猜测可能的「秘密配方」是投入大量资金生成人工标注的高质量示例再做 SFT,但也质疑事情是否真的这么简单。
所属事件:学者激辩前沿模型推理能力从何而来(12 条相关)→
「模型」频道最新
- 开发者自建 git 网页应用被 Codex 安全护栏误判为网络安全风险 — brianmichel · 2026-11-11
- DeepSeek 开源编码 agent DSH 登上 HF Harness 榜，五项评测并列第一 — TheZachMueller · 2026-11-11
- 博主断言美国开源模型将凭盈利模式主导，但仍难追 Claude — marktenenholtz · 2026-11-11
- NVIDIA 发布开源 GR00T 2：真实灵巧手全自动完成化学实验 — EricBuess · 2026-11-11
- 降价反而更贵:新模型太爱自查，单任务成本涨31% — tengyanAI · 2026-11-11
- 美国数据厂商被指向中国军方关联企业出售RL环境数据 — xeophon · 2026-11-11