VC-Attention 免训练低比特注意力在 B200 上提速 1.6 倍
Nunchux AI 联合 MIT、CMU、UC Berkeley、Stanford 与 NVIDIA 的研究者发布 VC-Attention,一种无需重训练的快速精准低比特注意力推理方法。扩散 Transformer 视频生成的长序列使注意力成为部署最大成本,而低比特量化受 Value 离群值无通道/时空结构与 softmax 高精度指数两大瓶颈制约。VC-Attention 在 B200 上实现 1.6 倍注意力加速并超越 FlashAttention-4,视频生成场景最高提速 3.6 倍。
2026-09-17 ~ 2026-09-17 · 3 条相关
- VC-Attention 免训练低比特注意力:B200 上提速 1.6 倍,超越 FlashAttention-4 — xiuyu_l · 2026-09-17
- VC-Attention:免训练低比特注意力,视频生成提速最高 3.6 倍 — nunchux-inc · 2026-09-17
另有 1 条近重复转述:songhan_mit