哈工深与 NUS 提出 QuantWM:2-bit 量化破解视频世界模型时序闪烁难题
jiqizhixin · x · 2026-10-13
哈尔滨工业大学(深圳)iLearn-Lab 与新加坡国立大学 LV-Lab 发布 QuantWM,一个专为自回归视频世界模型设计的免训练 2-bit KV cache 量化框架。
问题背景
- 自回归视频世界模型的 KV cache 需存储所有历史帧以便检索复用相似场景,内存开销随生成时长爆炸:用 LingBot-World-v2 仅生成约 5 秒(93 帧)视频就需超过 21 GiB 的 KV cache 显存。
- 现有 2-bit KV cache 量化方法在自回归视频生成上表现接近 BF16(VBench 分数几乎不掉),但搬到视频世界模型上出现反直觉现象:基准分数几乎不变,输出却明显闪烁、模糊、丢失细节。作者指出真正的问题在于时序稳定性,而非平均分。
方法与结果
- QuantWM 分析了现有量化破坏时序一致性的原因——KV cache 中的历史帧正是世界模型维持场景记忆的关键,均分数量化破坏了这一机制(具体机制细节见论文)。
- 官方对比图显示,在 HY-World-1.5 上 KV cache 显存从 BF16 的 12.09 GiB 降到 1.95 GiB(约 6 倍压缩),VBench 时序闪烁维度得分 95.84%,与 BF16 的 95.62% 持平,肉眼观感保持时序一致。
「Infra」频道最新
- 英伟达中国 AI 芯片份额跌至 34%,华为借出口管制吃下市场 — evisoft · 2026-10-13
- 一张图看懂美国 4079 TWh 电都去哪了,数据中心只是零头 — skorusARK · 2026-10-13
- Scaledown 专精小模型宣称推理快 200 倍、成本低 467 倍 — cneuralnetwork · 2026-10-13
- Constrained Decoding Models 发布:比前沿 LLM 快 200 倍、便宜 467 倍 — omarsar0 · 2026-10-13
- NVIDIA RTX Spark 10月16日开卖:128GB 统一内存+1 petaflop 本地 AI — nordicinst · 2026-10-13
- 建一座 1GW 数据中心要超 300 亿美元,芯片服务器占一半以上 — asusarla · 2026-10-13