USC 提出 WhiteMatter 架构,缓存减半且性能超越基线

burkov · x · 2026-08-21

USC 研究团队提出了名为 WhiteMatter 的新型 Transformer 架构。该架构通过动态混合所有层深度的隐藏状态到紧凑的键值通道中,能够在将缓存内存消耗减半的同时,超越比其多 50% 层数的标准基线模型。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →