NX-AI 发布 KronLSTM:Kronecker Delta Rule 增强线性注意力
LSTM 之父 Sepp Hochreiter 所在的 NX-AI 团队(即 xLSTM 团队)于 10 月 20 日发布 KronLSTM 论文(arXiv:2610.26834),提出基于 Kronecker Delta Rule 的线性注意力方法,可实现标量级联想记忆的稳定更新,无需额外归一化即可改善长上下文建模的稳定性,向 Transformer 发起挑战。
2026-10-20 ~ 2026-10-20 · 2 条相关
- KronLSTM 提出 Kronecker Delta Rule,提升线性注意力长上下文稳定性 — NX-AI · 2026-10-20
- xLSTM 团队提出 KronLSTM:标量级记忆修正挑战 Transformer — gklambauer · 2026-10-20