苹果新研究:利用校准稀疏注意力加速文生视频
Apple ML Research · rss · 2026-07-21
苹果机器学习研究团队提出了一种名为 Calibrated Sparse Attention(校准稀疏注意力) 的新方法,旨在解决扩散模型在生成高质量视频时运行缓慢的问题。
核心发现与方法:
- 研究团队发现,在基于大型 Transformer 的视频生成模型中,存在大量 token 间的注意力得分极低且模式重复。跳过这些微不足道的连接计算,对最终结果几乎没有影响。
- 这一观察结果在局部 token 块的连接中同样成立。
- 基于此,该方法通过校准和剔除这些无效的注意力连接,打破了时空注意力的计算瓶颈,从而在不牺牲生成质量的前提下显著提升了视频生成的运行时效率。
「多模态」频道最新
- Midjourney V8.2 加入个性化并展示新图像效果 — Mr_AllenT · 2026-07-27
- Midjourney 图像多样性引发 Krea 2 对比与复现提问 — diffusion_throwaway · 2026-07-27
- AI 短片把 1985 年反乌托邦拍成电影感作品 — ProfessorKey98 · 2026-07-27
- Google Omni 做出的 BOTPD 新集变成追车戏仿 — ScriptLurker · 2026-07-27
- 一个新 LoRA 复刻了 GTA: San Andreas 的 RenderWare 画风 — Humble-Pick7172 · 2026-07-27
- AMD R9700 开启动态 VRAM 后,LTX 2.3 生成速度大幅提升 — xdcfret1 · 2026-07-27