FVAttn 让视频生成负载更均衡，注意力提速 4.41 倍
Hao Liu · hf · 2026-07-23
FVAttn 提出了一套用于视频生成的免训练稀疏注意力系统，目标是解决多 GPU 序列并行下自适应 Top-p 路由带来的负载不均衡问题。
核心做法
- 采用 Top-p 路由 + Top-k 安全底线，并结合视频感知的 block 组织方式。
- 在运行时修正稀疏 mask，并通过 P2P 通信迁移“重头”，缩短关键路径。
- 用 Slack-Aware Sparse Augmentation 把空闲算力填到非关键 rank 上。
实验结果
- 在 step-distilled Wan2.2 I2V 上，平均负载不均衡从 1.34 降到 1.08。
- 注意力部分相对 FlashAttention 获得 4.41 倍加速。
- 端到端 DiT 推理速度提升 2.02–2.11 倍，同时保持了有竞争力的视频质量。
「多模态」频道最新
- Muse Wonder 分块 + SAM 3.1,一粒不漏分割整根玉米粒 — nikhilaravi · 2026-10-26
- LichtFeld Studio v0.5.4.3：社区贡献的 SteadySplats 等新功能上线 — janusch_patas · 2026-10-26
- 一次 prompt 直出 2-3 分钟旁白短片,作者实测 Antigravity 生成效果 — AI_Andrew · 2026-10-26
- 用户用 Gemini 全家桶做万帧动画短片：写、画、配音、配乐一条龙 — AI_Andrew · 2026-10-26
- FLUX.3 Klein 蒸馏到 4-8 步出图，CFG 直接烘进模型 — Fit-Structure-6489 · 2026-10-26
- ostris 预训练新 VAE「Primal VAE」:单通道潜空间实现等效 8 倍压缩 — ostrisai · 2026-10-26