5080 + 3080Ti 混合双卡:如何给大模型腾出显存

MonkeyCartridge · reddit · 2026-10-11

楼主新购 RTX 5080 后保留了旧的 3080Ti(装到副 PCIe 槽),想用双卡跑重度依赖内存 offload 的 Krea2、Minimax H3 等视频生成模型:思路是把 CLIP 和 VAE 加载到 3080Ti,让 5080 的显存尽量留给 UNet。

他尝试 MultiGPU 节点方案(如 buqi H3 multigpu)但体验粗糙,甚至需要经 WSL 路由。他讨论了几种常见做法的局限:“一张卡渲染一张卡放大”主要只省换模时间,“每卡各开 worker”在非批量场景收益有限,更希望找到能借第二块卡跑更大模型的方法,向社区征集混合多卡经验。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →