多项式规模 MLP 下，Transformer 层数优势是否仍胜 RNN 存疑
kfountou · x · 2026-09-21
作者提出一个架构层面的观点：在多项式规模 MLP 的设定下，并不确定 Transformer 在所需层数上相对 RNN 有优势，并附上相关论文链接。该观点触及 Transformer 与 RNN 深度效率比较的经典问题。
所属事件:Transformer 对数深度并行计算证明被指存在漏洞(3 条相关)→
「研究」频道最新
- CVPR 2026 论文 GaME:让机器人 3D 地图学会遗忘过时几何 — lucacarlone1 · 2026-09-21
- 博客解析 YOCO 与跨层 KV 共享,涉及 DeepSeek-V4.1-Flash 与 Gemma 4 — donglixp · 2026-09-21
- 「死人脑组织控机器人」实验引热议：是创新还是噱头？ — ryunuck · 2026-09-21
- 新论文：用均值差向量从模型内部表征提前发现 reward hacking — burny_tech · 2026-09-21
- AI 将如何改变数学家的工作：从软件世界外推的七条预言 — cgarciae88 · 2026-09-21
- Qwen 发布 RecreationBench:250 任务实测 AI 重建真实应用 — burny_tech · 2026-09-21