研究用分形盆地与瞬态混沌解释推理模型「过度思考」

William Gilpin 团队 9 月 9 日在 arXiv 发布论文《Fractal basins trap latent reasoning》（6 页，附代码），用非线性动力学解释推理模型为何在难题上「想太久」，结论是「过思维」并非偶然，而是源于瞬态混沌与分形盆地结构。

已确认

• 方法：把「问题+模型权重」参数化为一个动力系统，解对应不动点；对同一问题反复求解，仅在随机 2D 切片上扰动每次复现的初始隐状态，由此观察到推理模型解题时「画出」分形。
• 实验覆盖数学、数独、迷宫等任务上的循环深度模型与主流推理模型。
• 核心发现：相似 prompt 的推理轨迹长度可相差 10 倍，直接放大 token 成本，使推理成本难以预测；难题上「想更久」表现为瞬态混沌。
• 作者推测：训练模型解难题时，瞬态混沌不可避免，可能是解难题能力的必然代价。

为什么重要

• 该研究首次从非线性动力学角度刻画推理模型的「过度思考」现象，为观察模型思维过程提供了新工具（分形结构可视化）。
• 结果表明 token 成本存在不可预测的量级波动，对推理服务的成本估算与部署有直接参考意义；若瞬态混沌确是难题训练的代价，或需在能力与成本间权衡。

2026-09-09 ~ 2026-09-09 · 13 条相关

• 【源头】研究揭示推理模型「过思维」根源：分形盆地与瞬态混沌 — wgilpin0 · 2026-09-09
• 研究团队发现推理模型解题会产生分形,可窥见其思维过程 — wgilpin0 · 2026-09-09
• 起点决定推理时长:同一谜题收敛时间在初值空间呈分形分布 — wgilpin0 · 2026-09-09
• 难题让分形更明显:分形盆地或为推理模型的普遍物理效应 — wgilpin0 · 2026-09-09
• 分形如何形成:瞬态混沌使相邻初值走出迥异推理路径 — wgilpin0 · 2026-09-09
• 推理卡壳的动力学解释:错误解在隐空间形成鞍点 — wgilpin0 · 2026-09-09
• 高维推理像弹珠盘:鞍点让轨迹绕开错误解散开收敛 — wgilpin0 · 2026-09-09
• 鞍点散射让推理模型尝试更多解：Lyapunov 指标可量化 — wgilpin0 · 2026-09-09
• 训练中途分岔实验：学会泛化的同时分形盆地出现 — wgilpin0 · 2026-09-09
• 研究揭示推理模型「过度思考」:相似提示推理长度差达10倍 — wgilpin0 · 2026-09-09
• 【源头】瞬态混沌或是解难题训练的必然代价：推理成本不可预测 — wgilpin0 · 2026-09-09

另有 2 条近重复转述:wgilpin0 · ayushthakur0