SOL Attention + SageAttention：Apple Silicon 上视频生成提速 2.5 倍
TgoAI · reddit · 2026-09-10
作者在 Vpipe 中实现了 SOL Attention（动态块稀疏注意力）与 SageAttention 式 INT8 QK 路径，在 Apple Silicon 上加速 H3 视频生成。
性能（M5 Pro 24GB，6 步 DiT）：
- 832×480/15s：原版 H3 约 17 分钟，VDN 10.2 分钟，SOL 9.3 分钟
- 1344×768/13.7s：原版约 74 分钟，两种加速方案均约 30 分钟（约 2.5×），极长序列下 VDN 略快
质量差异是关键：
- VDN 用投影+线性注意力替换注意力计算，长序列扩展更好，但作者遇到过伪影（如水流中途反向）
- SOL 对选中的 KV 块做精确计算、其余用廉价近似，行为更贴近原版，测试中未发现类似伪影
实现细节：作者未复用 MPS kernel，而是为 Vpipe 的原生 Metal 后端重写了 SOL 核心算子；SOL 与 Sage 互补（SOL 减少精确注意力总量，Sage 让剩余块内 QK 更便宜），且该后端也可惠及其他图像/视频模型。开源地址：github.com/tgo-app-dev/vpipe
所属事件:SOL Attention 加 SageAttention 让 Apple Silicon 提速 2.5 倍(2 条相关)→
「Infra」频道最新
- 全同态加密 GPT-2 速通赛开跑:现纪录 3.031 秒/token — tensorqt · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel，H100 上提速 2.75 倍 — sguada · 2026-10-27
- 斯坦福上线 GPU 超算 Marlowe，服务数据科学与 AI 研究 — StanfordHAI · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- Together 推出并行 LoRA 实验：多个实验共享同一批 GPU，免重复配置 — togethercompute · 2026-10-27
- 要么人力商品化，要么 GPU 商品化：算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27