USC 提出 WhiteMatter 架构,缓存减半且性能超越基线
burkov · x · 2026-08-21
USC 研究团队提出了名为 WhiteMatter 的新型 Transformer 架构。该架构通过动态混合所有层深度的隐藏状态到紧凑的键值通道中,能够在将缓存内存消耗减半的同时,超越比其多 50% 层数的标准基线模型。
「研究」频道最新
- DAM3T:无人机辅助实现户外高精度 3D 跟踪 — rsasaki0109 · 2026-08-21
- 腾讯 WithEveryone 实现多人身份保持图像生成 — Tencent-Hunyuan · 2026-08-21
- ForgeWM 渐进式训练高效视频世界模型 — ForgeWM · 2026-08-21
- MemTrapBench 评估 LLM 记忆中的认知陷阱 — zjunlp · 2026-08-21
- 谷歌 EnvHarness 动态重塑环境以强化智能体 — google · 2026-08-21
- DeepMind EXIMO 利用 VLM 指导机器人策略探索 — deepmind · 2026-08-21