研究揭示推理模型「过思维」根源：分形盆地与瞬态混沌
wgilpin0 · x · 2026-09-09
William Gilpin 团队发布 arXiv 论文《Fractal basins trap latent reasoning》，用非线性动力学解释推理模型为何在难题上「想太久」。
核心发现
- 主流推理模型在数学、数独、迷宫、ARC-AGI 等任务上表现出瞬态混沌，其动力学系统具有分形盆地结构，且分形程度随任务难度上升。
- 推理变慢的机制：推理轨迹在鞍点附近长时间受困，而这些鞍点恰好对应「接近正确」的尝试解——模型在多个近似答案之间反复游走。
- 这解释了「过思维」现象：相似 prompt 的推理长度可差 10 倍，token 成本极不稳定。
- 作者推测瞬态混沌是训练模型解难题时不可避免的代价：敏感度是支撑困难计算的必要条件，代价则是推理成本不可预测。
- 训练一个 loop transformer 做整数线性回归时观察到分岔：中途学会泛化，同时分形盆地出现；快 Lyapunov 指标与模型收敛前访问的候选解数量正相关。
所属事件:研究用分形盆地理论解释推理模型过度思考(13 条相关)→
「漫话AGI」频道最新
- AI 质疑者目标线一路后移:从乘法算错到 IMO 金牌仍不认 — IgorCarron · 2026-09-09
- 未来不可想象：AI 不能「沉思」，好目标只能靠人从探索数据中发现 — sebkrier · 2026-09-09
- RL 中的局部坏行为不会泛化出「涌现性错位」 — 1a3orn · 2026-09-09
- 算算你的 AI 曝光度:打开日历,逐项标记 AI 能做 80% 的工作 — ravikantagrawal · 2026-09-09
- 「AI 偷走了美的惊喜」:一条吐槽 AI 侵蚀创作乐趣的热推引热议 — AIandDesign · 2026-09-09
- Gary Marcus 断言：真正的能力在 harness 而非模型，企业 beware 黑箱 — GaryMarcus · 2026-09-09