96GB显存仍爆显？MiniMax-H3视频LoRA训练实战与优化探讨
isari_chan · reddit · 2026-08-05
开发者在单卡 96GB 显存的 RTX PRO 6000 上尝试为 MiniMax-H3 视频模型进行带音频的 LoRA 训练，遭遇了严重的显存与性能瓶颈。
- 硬件与设置：使用 INT8 量化的 DiT 模型，在 Batch size 1、5秒视频（107帧）的条件下，关闭梯度检查点会直接 OOM。
- 性能表现：开启梯度检查点后勉强跑通，峰值显存达 48.3GB，但单步耗时近 27.6 秒，1500 步需 11.5 小时。测试 musubi-tuner 的 CPU offloading 方案则更慢（43.4秒/步）。
- 核心困惑：ComfyUI 推理时能通过系统内存卸载在 24GB 显卡上运行，但训练阶段对显存的要求却极为苛刻。
作者向社区求助是否有更优的显存管理、torch.compile 加速或其他硬件配置建议。
「Infra」频道最新
- Anthropic确认自研芯片：联合设计硬件与模型 — BenBajarin · 2026-08-06
- 格芯Q3毛利率指引超30%，硅光子产能成AI算力新稀缺资源 — tengyanAI · 2026-08-06
- 单次复杂AI任务成本仅约0.004美元 — victormustar · 2026-08-06
- 观点：AI与机器人将消除技能劳动力瓶颈，算力与能源成新时代石油 — VraserX · 2026-08-06
- 达索系统联手 NVIDIA，利用 GPU 与 AI 全面加速工业模拟 — NVIDIAAI · 2026-08-06
- Ezra Klein 播客探讨 AI 算力危机与数据中心建设停滞 — kevinsxu · 2026-08-06