CoT 也许只是昂贵接口

meowsterpieces · reddit · 2026-07-14

这篇长文的核心观点是：Chain of Thought 可能正在从“推理路径”退化成一种昂贵的接口形式。作者认为，CoT 虽然可读，但它未必忠实反映模型真实计算过程，而且会把中间推理序列化成 token，带来延迟、成本和上下文占用问题。

作者提出的“latent reasoning”转向

• 一批新方向正在把“思考”移到潜空间，而不是公开生成长文本步骤
• 文中提到的例子包括 Coconut、HRM / HRM Text、RecursiveMAS
• 观点是：语言更适合作为通信与抽象接口，而不是必须承担全部计算过程

黑箱与治理问题

作者指出，如果推理过程越来越多地发生在 latent loop 中，原本就有限的可解释性会进一步下降。对于高风险场景，仅靠模型内部分析可能不够，可能需要一个外层治理/验证循环，例如：

• 符号化或规划式的管理层
• 可审计的 DAG 子目标结构
• 逐节点的确定性验证，如单元测试、约束检查、规则校验

BDH 的位置

文中还讨论了 BDH（Dragon Hatchling）：

• 据称某个基于 BDH 的系统在约 25 万个 Sudoku Extreme 题上达到 97.4% top-1 accuracy，且不依赖 CoT 或回溯
• 作者认为 Sudoku 只是约束求解的诊断任务，不足以代表通用推理
• BDH 的研究方向被描述为试图把高带宽 latent 迭代与时间维度上的状态/记忆机制结合起来

文章最后抛出的问题

• CoT 是否会越来越像一种成本高昂的界面，而不是可扩展的推理路径？
• 高风险应用是否最终都需要 DAG + 验证的外层循环？
• 如果内层是 latent recursion，外层应该用什么：DAG、单元测试、形式化规格、proof assistant，还是别的？

原文链接 →

「研究」频道最新

• OpenAI 基金会资助 UNC 肿瘤抗原研究，招聘资深实验科学家 — iskander · 2026-10-27
• 研究者定向干预注意力头：向上提升诚实，向下压制道德虚无 — edelwax · 2026-10-27
• 研究表明神经元足以做电路分析，transcoder 增益有限 — burny_tech · 2026-10-27
• EMNLP 论文 GENIE:细粒度度量 LLM 故事的「新意」究竟在哪 — gregd_nlp · 2026-10-27
• hash n-gram 值嵌入助力 12×1024 GPT 刷新 30M 纪录至 3.2115 — RobertTLange · 2026-10-27
• MissionReport 基准:前沿模型写政府状态报告平均仅得约60分 — Exp_Mark · 2026-10-27

更多「研究」频道 AI 资讯 →