论文:确定性视界揭示为何长链推理需借助工具
aronchick · x · 2026-08-31
这篇论文研究了在确定性状态跟踪任务中,扩展思维链推理为何会降低性能。作者提出了“注意力瓶颈”分析,证明在仅解码器注意力机制下状态跟踪能力存在信息论极限,并定义了“确定性视界”——即未借助工具的准确率跌破 50% 的深度(约 19-31 步)。实验表明,集成工具的推理在 SWE-Bench 等任务上准确率达 76-94%,远高于纯神经推理的 17-42%。论文主张外部状态应保持确定性和外部化。
「研究」频道最新
- PSGD 优化算法备受赞誉,被认为处于领先地位 — YouJiacheng · 2026-08-31
- PSGD 优化器目标函数竟与 KL-shampoo 完全一致 — YouJiacheng · 2026-08-31
- VLANeXt 代码库发布:揭示构建强大 VLA 模型的配方 — ccloy · 2026-08-31
- AI研究助手不应只是论文摘要工具,真正的代理是什么? — Senior_Weakness255 · 2026-08-31
- Medusa 从训练到推理全解:多 token 预测加速的两部曲教程 — No_Progress_5399 · 2026-08-31
- LayerRecall:按层路由历史记忆,改善长视频生成一致性 — zju · 2026-08-31