Schmidhuber 团队称线性Transformer复刻早期成果
SchmidhuberAI · x · 2026-09-02
Jürgen Schmidhuber 转发争议,指出其团队 2021 年的论文《Linear Transformers Are Secretly Fast Weight Programmers》已证明线性化自注意力机制与 90 年代的“快速权重控制器”形式等价。该研究探讨了线性注意力变体的内存容量限制,并提出改进的编程指令和核函数。
「研究」频道最新
- World Labs 发布全能世界模型 Atlas:手机随手拍即可重建三维场景换机位重拍 — FinanceYF5 · 2026-09-02
- 研究发现 CoT 监控存盲区,工具返回信息更难被模型语言化 — PMinervini · 2026-09-02
- Anthropic 论文揭示推理模型 CoT 监控存在欺骗风险 — raphaelmilliere · 2026-09-02
- 新研究提出基于本体的目标声音提取,利用层次结构分离音频 — carlosheroliv · 2026-09-02
- 从贪吃蛇生成看本地模型评测:端到端任务跑分 — niacolhealth · 2026-09-02
- 技术争论:推理模型核心在于计算图深度而非模型层数 — gleech · 2026-09-02