SQuad 论文：将视频生成注意力计算加速 67 倍
jm_alexia · x · 2026-08-19
论文提出 SQuad (Sub-Quadratic Attention Distillation) 框架，将视频生成中的 Self-Attention 复杂度从 O(N²) 降低至 O(N√N)。通过两阶段蒸馏（Flow-Matching SFT 和改进的 DMD2），在不牺牲质量（VBench 得分 83.20 vs 83.08）的情况下，在 Wan 2.2 5B 模型上实现了单步每块注意力 FLOPs 减少约 67 倍，延迟降低约 11 倍。
「多模态」频道最新
- NVIDIA 新论文：RGBX-Next 用扩散模型当渲染器，被猜是 DLSS 5 — ssh4net · 2026-08-19
- Kling、Luma、Runway 图生视频工具实测对比 — Manas_Patait · 2026-08-19
- 分镜式AI视频写实度惊人，含涉水行驶特写 — anthara_ai · 2026-08-19
- MiniMax H3 能否将 R2V 能力降维用于图生图？ — ok-onwrap · 2026-08-19
- 用 Hailuo 桌面版 agent 做出谍战片头，H3 模型玩转动态图形 — bennash · 2026-08-19
- 文生视频实测：Kling 动作佳，Runway 质感稳 — Growthseeker23 · 2026-08-19