MiniMax H3 多显卡优化:专用显存激活权重提升分辨率
yamosin · reddit · 2026-08-21
用户分享了 MiniMax H3 在多 GPU 设置下的显存优化技巧。通过将 UNet 权重存储在 cuda:0，并将 cuda:1 专门用于推理时的激活权重，实现了在不牺牲性能的情况下获得整整一张 GPU 的显存用于激活计算。
测试配置：3x RTX 3090。工作流是 CLIP+VAE 先加载在 cuda:0，条件化完成后卸载 CLIP，随后 UNet 一半存 cuda:0，一半在 cuda:1 计算。测试显示，这种权重分配的变化对采样时间影响极小（83s-87s 波动），但能显著提升可生成的分辨率和视频时长。
结论：该方法允许两张 16GB 显存的显卡（如 4070）在纯显存内完成 0.7MP + 15s 的视频生成（激活权重约 12GB）。相比 swap 到系统内存，性能提升巨大。建议将 VAE 和部分 UNet 固定在一张卡上，另一张卡动态加载剩余部分。
「Infra」频道最新
- 黄仁勋做客 BG2 播客:谈 AI 收入能否撑起 Capex 与 2027 瓶颈 — elonmusk · 2026-10-16
- Mistral 本地推理基建机架曝光:DGX Spark、Mac Studio 等混搭 — gregmushen · 2026-10-16
- 英伟达携手瑞典 Wallenberg，Launch 共享 AI 超算 Sferical One — nvidia · 2026-10-16
- 基础设施下一站:能自我进化、自我验证的自适应系统 — _shreya_s · 2026-10-16
- 小米 MiMo RL 训练曝光:30 步花掉 347 万美元 — bycloud · 2026-10-16
- Cerebras 用异构 prefill 池喂晶圆级引擎，解码速度与 batch 解耦 — ai · 2026-10-16