苹果新研究:利用校准稀疏注意力加速文生视频
Apple ML Research · rss · 2026-07-21
苹果机器学习研究团队提出了一种名为 Calibrated Sparse Attention(校准稀疏注意力) 的新方法,旨在解决扩散模型在生成高质量视频时运行缓慢的问题。
核心发现与方法:
- 研究团队发现,在基于大型 Transformer 的视频生成模型中,存在大量 token 间的注意力得分极低且模式重复。跳过这些微不足道的连接计算,对最终结果几乎没有影响。
- 这一观察结果在局部 token 块的连接中同样成立。
- 基于此,该方法通过校准和剔除这些无效的注意力连接,打破了时空注意力的计算瓶颈,从而在不牺牲生成质量的前提下显著提升了视频生成的运行时效率。
「多模态」频道最新
- FLUX.2 Klein 换表情易丢脸,实测不如免费版 Gemini 保真 — wacomlover · 2026-09-11
- 腾讯 AuK 语音模型开源代码与权重上线 GitHub,附 ComfyUI 支持 — aigclink · 2026-09-11
- 用 Midjourney+Seedance 把龙神宿敌大战拍成 AI 电影短片 — azed_ai · 2026-09-11
- invideo 发布新编辑器:AI Agent 干粗活,剪辑师专注创意 — azed_ai · 2026-09-11
- fable 5.1 用 25.6 万条 JS 笔画复刻《星月夜》 — cedric_chee · 2026-09-11
- GPT-6 Astra 接 Hyper3D MCP,一句话生成 3D 资产 — ahuja_priyank · 2026-09-11