SQuad 论文：将视频生成注意力计算加速 67 倍
jm_alexia · x · 2026-08-19
论文提出 SQuad (Sub-Quadratic Attention Distillation) 框架，将视频生成中的 Self-Attention 复杂度从 O(N²) 降低至 O(N√N)。通过两阶段蒸馏（Flow-Matching SFT 和改进的 DMD2），在不牺牲质量（VBench 得分 83.20 vs 83.08）的情况下，在 Wan 2.2 5B 模型上实现了单步每块注意力 FLOPs 减少约 67 倍，延迟降低约 11 倍。
「多模态」频道最新
- FLUX 3 Upscaler 上线 Higgsfield:提速 50%、价格降 50%,原生 2K/4K — tisch_eins · 2026-10-16
- 「RiRi」AI 生成图爆火：钻石头饰与闪片长裙以假乱真 — egeberkina · 2026-10-16
- SeedAudio 1.5 将登陆 CapCut PC:一条提示生成对白、音效与配乐 — LearnWithBishal · 2026-10-16
- DLSS 5 实测画面逼真到反转：玩家称「比现实还真实」 — CSProfKGD · 2026-10-16
- 用 fal agent 一键换角:视频角色按 character sheet 重铸 — adamho · 2026-10-16
- 开发者开源 Krea 2 像素画 LoRA：16x16 游戏图标一键生成带透明背景 — Angaisb_ · 2026-10-16