研究发现训练困难任务时循环 Transformer 普遍出现分形结构

讨论串回顾了用动力系统方法求解组合优化的研究脉络：90 年代中期到 2005 年间，TSP、信道分配等问题被形式化为 Hopfield 神经网络并通过能量最小化求解，Nature Physics 论文将求解困难度与瞬态混沌联系起来。作者 wgilpin0 进一步澄清其论文贡献，证明该机制具有通用性——用通用循环 Transformer 训练任何困难的离散任务都会普遍产生分形结构。

2026-09-24 ~ 2026-09-24 · 2 条相关