Musubi Tuner 分支实现 MiniMax H3 LoRA 训练,24GB 显存可行

diogodiogogod · reddit · 2026-08-04

开发者分享其 Musubi Tuner 分支,支持在 24GB 显存(如 RTX 4090)上训练 MiniMax H3 LoRA。通过使用剪枝后的 ConvRot INT8 模型(约 21GB),实现 BF16 LoRA 训练,显存占用约 19-20GB。测试使用 1024x1024 图像数据集,batch size 1,LoRA rank/alpha 16,15 个 transformer 块交换到 CPU,完成两个 epoch。还计划加入多项高级功能。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →