VC-Attention 免训练低比特加速：B200 上注意力提速 1.6 倍超 SageAttention2
junyanz89 · x · 2026-09-18
Nunchux AI 联合 MIT、CMU、UC Berkeley、斯坦福与 NVIDIA 研究者发布 VC-Attention：一种无需重训练的低比特注意力加速方法，在 MiniMax-H3 上于 B200 提速 1.6 倍、B300 提速 1.5 倍（对比 FlashAttention-4），保真度优于 SageAttention-2，并可与稀疏注意力方法叠加。两大创新点：
- V-Smooth：降低 value 量化的误差；
- ExpCast-FP8：通过近似加速 softmax 计算。
其专有扩展 Nunchux Attention 可将 B200/B300 提速进一步推到 1.9 倍/1.8 倍。MiniMax 转发并附上三条视频注意力加速路线（更高效计算同等交互、减少全量计算、改变信息混合方式）的可视化指南，同时展望将低比特计算与 Sol-Attn 等稀疏方法结合的方向。附博客与技术报告。
所属事件:VC-Attention：免重训低比特注意力加速视频生成(5 条相关)→
「Infra」频道最新
- Altman：单次 AI 查询能耗 3-4 年降千倍至十万倍 — rohanpaul_ai · 2026-11-02
- Marvell 与 Lumentum 合并，瞄准 5500 亿美元 AI 连接市场 — BenBajarin · 2026-11-02
- 三星会长亲赴日本先进封装实验室,5 年投 400 亿日元扩研 — pstAsiatech · 2026-11-02
- Altman 亲赴韩国会晤三星高管,加码存储芯片与 AI 基建合作 — pstAsiatech · 2026-11-02
- 模拟 20 万个月数据：五套家用 AI 主机，仅一套亏钱 — LeviTurk · 2026-11-02
- 印度 AI 算力公司拟融资 30 亿美元,采购英伟达下一代芯片 — pstAsiatech · 2026-11-02