Schmidhuber 团队称线性Transformer复刻早期成果

SchmidhuberAI · x · 2026-09-02

Jürgen Schmidhuber 转发争议,指出其团队 2021 年的论文《Linear Transformers Are Secretly Fast Weight Programmers》已证明线性化自注意力机制与 90 年代的“快速权重控制器”形式等价。该研究探讨了线性注意力变体的内存容量限制,并提出改进的编程指令和核函数。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →