研究揭示推理模型「过思维」根源：分形盆地与瞬态混沌
wgilpin0 · x · 2026-09-09
William Gilpin 团队发布 arXiv 论文《Fractal basins trap latent reasoning》，用非线性动力学解释推理模型为何在难题上「想太久」。
核心发现
- 主流推理模型在数学、数独、迷宫、ARC-AGI 等任务上表现出瞬态混沌，其动力学系统具有分形盆地结构，且分形程度随任务难度上升。
- 推理变慢的机制：推理轨迹在鞍点附近长时间受困，而这些鞍点恰好对应「接近正确」的尝试解——模型在多个近似答案之间反复游走。
- 这解释了「过思维」现象：相似 prompt 的推理长度可差 10 倍，token 成本极不稳定。
- 作者推测瞬态混沌是训练模型解难题时不可避免的代价：敏感度是支撑困难计算的必要条件，代价则是推理成本不可预测。
- 训练一个 loop transformer 做整数线性回归时观察到分岔：中途学会泛化，同时分形盆地出现；快 Lyapunov 指标与模型收敛前访问的候选解数量正相关。
所属事件:分形盆地困住推理模型：瞬态混沌解释「过思维」(16 条相关)→
「漫话AGI」频道最新
- 实验猴荒：中国 3-5 万美元一只，繁育周期 4 年成药物临床前瓶颈 — zebird0 · 2026-10-27
- CJR 批评记者滥用「rogue」：别把 AI 写得像有了人性 — ShakeelHashim · 2026-10-27
- AI 致 PhD 申请邮件暴涨约 4 倍，不用 AI 写信反而更易突围 — AI4Code · 2026-10-27
- Weil 律所崩塌复盘：击垮 BigLaw 的不是商业模式，是信心 — jkubicki · 2026-10-27
- Transformer 论文八位作者全部离职，Google 白送竞争对手万亿价值 — signulll · 2026-10-27
- Anthropic S-1 写明两大 AI 愿景：治愈疾病与覆盖 46 亿缺医人口 — petergyang · 2026-10-27