NVIDIA 用 Sol-Attn 将视频生成推理提速 2.1 倍
Haopeng Li · hf · 2026-07-28
NVIDIA 提出 Sol-Attn 加速视频生成推理
这篇论文针对扩散 Transformer 在高质量视频生成中的注意力瓶颈，提出训练免费方法 Sol-Attn（Sparsifying online attention）。它把动态路由、稀疏计算和近似修正合并到一次 online-softmax 过程中，减少长序列下注意力推理开销。
核心做法
- 用 在线块阈值筛选 代替固定 top-k 或累计概率质量路由。
- 通过复用 proxy score，避免显式 materialize 整张 proxy map。
- 不只是“丢掉”未选块，而是用 proxy score 近似它们的贡献，降低精度损失。
结果
- 在稀疏注意力上取得更好的质量/效率权衡。
- 视频生成端到端速度提升 2.1 倍。
- 视频编辑端到端速度提升 2.3 倍。
- 在图像和视频生成任务上都做了验证，并尽量保持视觉质量。
所属事件:NVIDIA 推出 Sol-Attn 视频生成加速技术(2 条相关)→
「多模态」频道最新
- Seedance 2.5 实测:用角色参考图+长 prompt 生成 30 秒游客手持一镜到底 — techhalla · 2026-10-16
- AI 生成的「新家」:废墟城堡里烧烤喝酒,thread 汇总 Magnific+Seedance 全套 prompt — techhalla · 2026-10-16
- 摄影师实测 FLUX.3 Klein：生图平平但高分辨率一致性编辑近乎完美 — herbertseabra · 2026-10-16
- 烟雾丝绒黑色电影风提示词模板,附三张氛围感示例 — LudovicCreator · 2026-10-16
- VideoGen-Agent:基于 Qwen3-VL 的 8B 多模态 Agent 用工具循环改写视频生成 — jiqizhixin · 2026-10-16
- 用 Sonnet 5.5 + Blender 做出水上飞机模拟项目，效果惊艳 — Wise_Shame_2853 · 2026-10-16