Berkeley 演讲:推理有结构,置信度可控可省 25% 思考 token
datawithsuman · x · 2026-10-11
Feizi 在 UC Berkeley Simons Institute 的演讲《Understanding the Structure of Reasoning in Language Models》提出：thinking token 正成为新的 scaling 轴，但想得更多不等于想得更聪明。演讲覆盖四篇近期论文：
- 推理具有结构：推理轨迹呈现共享的“心跳”节律与循环模式，可据此预测答案正确性（ThinkARM，ACL 2026 Oral）。
- 无需训练奖励模型也能改进推理：用更大模型引导小模型的推理，效果可媲美训练过的过程奖励模型（EMNLP 2026 Main）。
- 知道何时停止很关键：模型可基于自身置信度学会停止思考，在同等准确率下最多省 25% 思考 token（ConfSFT）。
- 更努力地思考并不总是更好（正文截断，未展开）。
核心论点是：推理行为的可预测结构可以成为提高效率与可靠性的抓手，而非单纯堆更多思考 token。
「模型」频道最新
- 曝 X 拟推统一订阅:一个套餐通吃 X、Grok 与 Cursor,分四档 — nima_owji · 2026-10-11
- OpenRouter 最新三款模型全被标注为「决策模型」 — adonis_singh · 2026-10-11
- Anthropic 向用户发放 Claude API Credits — daluoseo · 2026-10-11
- 开发者吐槽：OpenAI 员工活跃但产品疑询数月无人答 — Angaisb_ · 2026-10-11
- 研究者吐槽 Copilot Premium:数据分析要靠长篇哄劝才肯配合 — lescarr · 2026-10-11
- Odyssey 发布 140 亿参数世界模型 Odyssey-3,可免费试用 — The Decoder · 2026-10-11