MiniMax H3 开权重本地跑，L40S 上把 32 分钟压到 7.2 分钟
ashishsanu · reddit · 2026-08-04
一位开发者在 L40S 上本地跑 MiniMax H3 开权重，在没有重打包 checkpoint 的前提下，把一段 10 秒视频的总耗时从 32 分钟压到 7.2 分钟。
他给出的关键优化有三项：
- 压缩 transformer：通过分析巨大的 modulation 投影矩阵，发现实际只需要很少的有效维度，于是把模型体积大幅缩小，约省下 26 GB。
- 拆分编码与去噪阶段：让 32B 文本编码器和去噪器不要同时占 GPU，去噪阶段因此提速约 5.9 倍。
- 让 VAE 尽量常驻显存：原本逐层流式加载的策略在显存充裕时很慢，改成按条件常驻后，一次完整渲染又节省了大约 25 分钟。
作者还给出实测：完整流程峰值大约 38.9 GB VRAM、46.7 GB 系统内存，并判断 64 GB 内存会比较舒服。
所属事件:MiniMax H3 模型本地实测：多款显卡跑分与效果对比(88 条相关)→
「Infra」频道最新
- GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16
- 继 RTX 5090 之后,NVIDIA 商城又下架入门级 RTX 5050 — chemist_slime · 2026-10-16
- Grok 称 816B MoE 模型可跑在双 M5 Ultra Mac Studio 上 — grok · 2026-10-16
- 同样 1000 个 Cloudflare Durable Objects，月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版，主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention：同时压 KV cache、算力并保质量 — baidu · 2026-10-16