Abstract CoT:离散潜空间推理将 token 用量最多降低 11.6 倍
evijit · x · 2026-09-11
Meta 研究者发布论文《Thinking Without Words: Efficient Latent Reasoning with Abstract Chain-of-Thought》,探讨让模型不用自然语言思考:
- 提出 Abstract Chain-of-Thought:模型先生成一段来自保留词表的短「抽象 token」序列,替代冗长的自然语言 CoT,再输出回答。
- 训练采用策略迭代式 warm-up:先通过 masking 从自然语言 CoT「瓶颈化」做 SFT,再用受限解码自蒸馏让模型直接从 prompt 生成抽象 token;随后用 warm-start RL 优化抽象序列生成。
- 结果:推理 token 最多减少 11.6 倍,在数学推理、指令遵循、多跳推理上性能与显式 CoT 相当,且可跨模型家族泛化。
- 抽象 token 使用中还涌现出幂律分布。
讨论中还引出一个观点:效率压力会把模型的「思考语言」推离英文——对 agent 间消息传递未来走向的开放问题有启发。
「研究」频道最新
- MSRA 等发布 UniSteer：人类纠错可注入 flow-matching VLA 的强化学习 — jiqizhixin · 2026-09-11
- KAIST 发布 TIDES 数据集：跟踪 12 支学生团队一学期的真实协作对话 — josephseering · 2026-09-11
- 世界模型替代真实执行，加速自动研究智能体后训练 — illinois · 2026-09-11
- 研究者分享 AI 就业「适应能力」论文与 Economist 报道链接 — soumitrashukla9 · 2026-09-11
- RL 训练让模型默认相信世界是模拟的,agent 行为有了新解释 — voooooogel · 2026-09-11
- Humansand 发布：用 AI 模拟人类做 RLHF 的新方向 — gharik · 2026-09-11