进一步交锋:SFT 只抬基线,超人类推理理论上零 SFT 靠 RL 即可
brianryhuang · x · 2026-09-25
延续与 Yoav Goldberg 的讨论,brianryhuang 展开观点:在人工精选样例上做 SFT 确实能抬高 scaling 曲线的截距,是个不错的加分项,但并非必要——他所说的超人类推理,理论上可以在零 SFT 的情况下实现:只在「非 agent」语料上预训练,然后把 RL 大规模 scale 下去即可。
这等于主张当前顶级推理能力不是靠人类示范堆出来的,而是预训练底子 + 大规模 RL 的产物,SFT 只是锦上添花。
所属事件:学者激辩前沿模型推理能力从何而来(12 条相关)→
「研究」频道最新
- CoRL 热议「agent 太慢」，研究者拆解出三种截然不同的批评 — tomssilver · 2026-11-11
- CoRL 热议「agent 太慢」，研究者拆解出三种截然不同的批评 — tomssilver · 2026-11-11
- CoRL 热议「agent 太慢」，研究者拆解出三种截然不同的批评 — tomssilver · 2026-11-11
- CoRL 热议「agent 太慢」，研究者拆解出三种截然不同的批评 — tomssilver · 2026-11-11
- CoRL 热议「agent 太慢」，研究者拆解出三种截然不同的批评 — tomssilver · 2026-11-11
- 形式化验证让 AI 编码更快：Lean 证明成为 agent 优化护栏 — bigdata · 2026-11-11