HLA-WM：免训练混合注意力，长视频世界模型记忆省12倍

Monash · hf · 2026-10-06

研究者提出 HLA-WM，一个免训练（training-free）的混合线性注意力框架，解决长时程视频世界模型的远程遗忘问题：

背景长时程世界模型需要持久记忆保持场景一致性：softmax 注意力靠不断增长的 KV cache 保留全史，循环线性注意力虽省内存但发现 Gated DeltaNet（GDN）存在严重的远程遗忘。
方法：利用 GDN 的仿射结构缓存分块转移摘要，用相机几何检索场景相关历史分块，并重组为查询特定的循环状态，结合粗粒度几何引导检索与细粒度线性状态计算。
在 60 秒 SANA-WM-Bench 上，所有 6 项指标均提升，含 +0.74 dB PSNR、旋转误差降 28.5%，且无需额外训练、可迁移到 MBench-A。
60 秒上下文下历史状态内存较全 KV cache 减少 12 倍，推理吞吐仅降最多 1.6%。

「具身」频道最新