双卡极限优化：MiniMax-H3 视频生成提速 8 倍
multimodalart · x · 2026-08-10
开发者分享了在 Diffusers 框架下大幅加速 MiniMax-H3（33B 视频与音频同步生成模型）的工程实践。通过双卡（48GB+20GB）部署，实现了单张图片生成 9.7 秒、5 秒视频及音频生成 44.2 秒的成绩，相比基础配置分别提速 16 倍和 8 倍。
核心优化思路并非单纯加速去噪，而是削减模型频繁加载与释放带来的「固定开销」：
- 将量化后的 text encoder 缓存至磁盘
- 将 text encoder 常驻于第二张 20GB 显卡
- 让 transformer 在解码期间保持常驻（通过 VAE fp16 化平衡显存）
此外，项目还支持了首尾帧指定、参照图生成、批量生成等功能，并已在 GitHub 开源。
所属事件:MiniMax H3 本地长视频生成与优化实践(7 条相关)→
「Infra」频道最新
- Nscale 数据中心液冷屡漏半年起火，挪威查出10项安全违规 — saranormous · 2026-10-16
- WSL 3.0 发布:内置原生容器,高频系统调用内核耗时降约 16% — solyarisoftware · 2026-10-16
- 魔改 22GB RTX 2080 Ti 跑本地 LLM,值不值?作者求实测经验 — Dave86ch · 2026-10-16
- Intel 开源低比特量化库 neural-compressor:支持 FP4/MXFP4/NVFP4 — HaihaoShen · 2026-10-16
- 770B 参数压进 214GiB：腾讯混元量化团队拆解 Hy4 Preview 压缩术 — coolmum18 · 2026-10-16
- TokenSpeed MLA 2 适配英伟达 Vera Rubin，解码内核较 B200 提速 3.44 倍 — zhyncs42 · 2026-10-16