Schmidhuber 1991 年「快权重记忆」论文再引关注，早于动态循环网络
yacinelearning · x · 2026-11-03
帖子仅附一张论文扫描件：Jürgen Schmidhuber 1991 年 3 月的技术报告《Learning to Control Fast-Weight Memories: An Alternative to Dynamic Recurrent Networks》（FKI-147-91）。
论文提出用两个前馈网络和「快权重」（fast weights）处理时序序列：第一个网络快速生成第二个网络的权重变化，作为动态循环网络的替代方案，并探讨了 STM 存储效率与自适应临时变量绑定等实验。这篇是 fast weights 概念的源头文献，与当今 linear attention / state space 模型思路一脉相承。
「研究」频道最新
- 有限单群分类定理完成 Lean 形式化，4300万行代码揪出47篇论文96处错误 — ChrSzegedy · 2026-11-03
- 预印本:1440 局博弈实验显示 LLM 智能体全部无视防敲竹杠合约 — shoumikgoswami · 2026-11-03
- Kimi K3.1 直接读懂网络原始权重，推理出被训练的是哪款游戏 — teortaxesTex · 2026-11-03
- Meta DecisionRank:1.7B 小模型蒸馏超越 27B 生成式教师 — meta · 2026-11-03
- 多模态模型视觉推理失败根因:『参照缺口』而非感知缺陷 — Guizhen Chen · 2026-11-03
- DeFT-RAG:把多跳问题拆成自包含子问题并缓存答案复用 — Dingyi Kang · 2026-11-03