Kling 提出 ALLOT：免训练按输出分配块稀疏注意力省算力
KlingTeam · hf · 2026-10-22
KlingAI 与 UCAS、CASIA、北大团队提出 ALLOT，一种免训练的块稀疏注意力分配方法，用于视频扩散 Transformer 的加速。
背景与发现：全 3D 注意力开销大，现有块稀疏方法只决定「哪些块参与计算」，却忽视了每层每步保留多少块对质量与延迟同样关键；不同层和去噪步的稀疏化对最终保真度影响差异巨大，且最敏感的 layer-step 对在不同输入间几乎不变。
方法：ALLOT 把每个 layer-step 的延迟预算视作分配单元，基于输出测试（Output Tests）来分配块稀疏密度，在给定延迟预算下最大化输出保真度。
「多模态」频道最新
- Spline 推出 ChatGPT 插件,对话中直接创建编辑 3D 交互场景 — algo_diver · 2026-10-22
- 蚂蚁 Ming-3.0-TTS 以 93.2% 登顶发音稳健性榜单,MIT 开源权重 — lmoroney · 2026-10-22
- Kling 4.0 登陆 RoboNeo：单次生成最长 30 秒，会员半价 — aziz4ai · 2026-10-22
- 南大腾讯 ARC 提出 FCP：未来块监督提升视频生成的物理合理性 — TencentARC · 2026-10-22
- RubatoCodec：固定话语级 token 预算的自适应语音编解码器 — third-intelligence · 2026-10-22
- LaunchMotion 发布:208 个发布片特效 Skill 让 AI Agent 自动产出宣传片 — yihui_indie · 2026-10-22