NX-AI 发布 KronLSTM:Kronecker Delta Rule 增强线性注意力

LSTM 之父 Sepp Hochreiter 所在的 NX-AI 团队(即 xLSTM 团队)于 10 月 20 日发布 KronLSTM 论文(arXiv:2610.26834),提出基于 Kronecker Delta Rule 的线性注意力方法,可实现标量级联想记忆的稳定更新,无需额外归一化即可改善长上下文建模的稳定性,向 Transformer 发起挑战。

2026-10-20 ~ 2026-10-20 · 2 条相关