RNN 混沌动力学溯源：1988 年论文与 2023 年 LRU 工作
RobertTLange · x · 2026-11-15
这是 Robert TLange 关于 RNN 记忆与特征值讨论的后续补充，给出深入阅读材料：
- Sompolinsky et al. (1988)《Chaos in Random Neural Networks》：随机非对称耦合网络的连续时间动力学模型，平均场理论预测增益参数超过临界值时系统从稳态相变到混沌相，并计算了混沌流的自相关与最大 Lyapunov 指数。
- Antonio Orvieto 等 2023 年的 LRU（Linear Recurrent Unit）论文：即前文提到的把特征值初始化在单位圆内细环上、兼顾长记忆与稳定性的方案。
动画演示为玩具仿真：100 个单元、随机高斯矩阵、特征值环取 |λ| ∈ [0.9, 0.999]。
所属事件:研究者阐释 RNN 记忆机制：循环矩阵特征值与 LRU 初始化(2 条相关)→
「研究」频道最新
- 斯坦福 Flash ALOHA:双臂机器人 1.85 秒完成抛接球 — k7agar · 2026-11-15
- 多无人机空中协作给缆绳打结，可自主捆吊搬运重物 — lukas_m_ziegler · 2026-11-15
- SO-Arena 基准:21 个模型中表现最好者决策可靠性仅排第七 — kalyan_kpl · 2026-11-15
- Fleuret：v1.4 训练翻车，FCA 类模型 GSM8K 达 41.17% 更胜一筹 — francoisfleuret · 2026-11-15
- 世界模型幻觉研究获 CoRL 2026 PhysWM 工作坊最佳论文奖 — LerrelPinto · 2026-11-15
- RNN 记忆长短由循环矩阵特征值决定，LRU 用环形初始化破局 — RobertTLange · 2026-11-15