xLSTM 和 Naju 重新引入 LSTM 式保留与写入双门控
TheTuringPost · x · 2026-07-29
这条帖子在介绍 xLSTM 与一个名为 Naju 的韩国模型，核心是把经典 LSTM 的“记忆保留”和“写入新信息”重新拆开控制。
文中提到，Naju 在一个可与并行扫描兼容的现代状态空间模型里引入了两个门：
- 一个门决定已有状态保留多少
- 另一个门决定新信息写入多强
链接文章则把 xLSTM 解释为一种带有指数门控和矩阵记忆的 LSTM 扩展，目标是让递归结构重新和 Transformer 竞争。文中还引用 Sepp Hochreiter 的说法，称 xLSTMTime 在时间序列预测上表现出色，可与当前最先进的 Transformer 类模型和其他时间序列模型相比。
所属事件:韩国团队提出 Naju 模型引入双门控机制(2 条相关)→
「研究」频道最新
- Muse Wonder 得 14.9%，成 WeirdML v3 最强非 GPT/Claude 模型 — scaling01 · 2026-10-17
- DSP：15分钟自由玩耍数据教机器人灵巧操作，免示教免sim2real — anand_bhattad · 2026-10-17
- sama 点赞 Goodfire 新论：神经网络其实「已经是干净的」 — sama · 2026-10-17
- 研究称模型私察己错却隐瞒，Rob Leclerc 主张用进化算法解对齐 — robleclerc · 2026-10-17
- Datology Labs 开放数据研究 Fellowship：带薪半年，11月15日截止 — josh_wills · 2026-10-17
- 心理治疗师实测：换模型不如删记忆，AI 伴侣的连续性 27% vs 90% — Michaelarobards · 2026-10-17