推理研究最大变化:从符号轨迹走向自然语言
denny_zhou · x · 2026-07-27
作者认为,推理研究里最重要的革命不是目标变了,而是推理的“语言”变了:从符号化/程序化的表示,转向自然语言。
- 他回顾自己在 2017 年开始做推理研究时,曾和 @xinyunchen 一起研究数学题和谜题,早期做法是把推理过程写成编程语言中的显式轨迹。
- 当时他们通过 rejection sampling 生成程序轨迹/推理轨迹来训练模型,并据此迭代改进;相关论文发表于 NeurIPS 和 ICLR,时间早于 2022 年。
- 他的核心判断是:想法本身早就存在,真正改变的是推理表达的语言。
「研究」频道最新
- AgentPrune 让多智能体通信成本从 43.7 美元降到 5.6 美元 — sebkrier · 2026-07-27
- 一种新因果建模图把排序、上下文和邻接都纳入结构 — KordingLab · 2026-07-27
- 前沿 LLM 能多找十倍问题,但评审不是拼找茬数量 — gleech · 2026-07-27
- COLM 2026 论文可走可行动解释性工作坊快通道 — sarahwiegreffe · 2026-07-27
- Reddit 长文拆解 Kimi K3 背后的 MoE 和长上下文栈 — MohamedKadri_ · 2026-07-27
- AI 搜索课程讲座力推多向量检索落地 — antoine_chaffin · 2026-07-27