苹果新研究:利用校准稀疏注意力加速文生视频
Apple ML Research · rss · 2026-07-21
苹果机器学习研究团队提出了一种名为 Calibrated Sparse Attention(校准稀疏注意力) 的新方法,旨在解决扩散模型在生成高质量视频时运行缓慢的问题。
核心发现与方法:
- 研究团队发现,在基于大型 Transformer 的视频生成模型中,存在大量 token 间的注意力得分极低且模式重复。跳过这些微不足道的连接计算,对最终结果几乎没有影响。
- 这一观察结果在局部 token 块的连接中同样成立。
- 基于此,该方法通过校准和剔除这些无效的注意力连接,打破了时空注意力的计算瓶颈,从而在不牺牲生成质量的前提下显著提升了视频生成的运行时效率。
「多模态」频道最新
- Muse Wonder 分块 + SAM 3.1,一粒不漏分割整根玉米粒 — nikhilaravi · 2026-10-26
- LichtFeld Studio v0.5.4.3:社区贡献的 SteadySplats 等新功能上线 — janusch_patas · 2026-10-26
- 一次 prompt 直出 2-3 分钟旁白短片,作者实测 Antigravity 生成效果 — AI_Andrew · 2026-10-26
- 用户用 Gemini 全家桶做万帧动画短片:写、画、配音、配乐一条龙 — AI_Andrew · 2026-10-26
- FLUX.3 Klein 蒸馏到 4-8 步出图,CFG 直接烘进模型 — Fit-Structure-6489 · 2026-10-26
- ostris 预训练新 VAE「Primal VAE」:单通道潜空间实现等效 8 倍压缩 — ostrisai · 2026-10-26