5080 + 3080Ti 混合双卡:如何给大模型腾出显存
MonkeyCartridge · reddit · 2026-10-11
楼主新购 RTX 5080 后保留了旧的 3080Ti(装到副 PCIe 槽),想用双卡跑重度依赖内存 offload 的 Krea2、Minimax H3 等视频生成模型:思路是把 CLIP 和 VAE 加载到 3080Ti,让 5080 的显存尽量留给 UNet。
他尝试 MultiGPU 节点方案(如 buqi H3 multigpu)但体验粗糙,甚至需要经 WSL 路由。他讨论了几种常见做法的局限:“一张卡渲染一张卡放大”主要只省换模时间,“每卡各开 worker”在非批量场景收益有限,更希望找到能借第二块卡跑更大模型的方法,向社区征集混合多卡经验。
「Infra」频道最新
- 佛州三大电力公司结盟共建数据中心基础设施 — 4KTV · 2026-10-11
- 中国在建核反应堆达 40 座,2032 年前将陆续投产 — LinusEkenstam · 2026-10-11
- TensorFold 1.0.7 上线 Living Weights:一条事实写入约 10 个新神经元 — HankYeomans · 2026-10-11
- 中国在建 38 座核反应堆约 39.8GW,能源被视为 AI 最大瓶颈 — kimmonismus · 2026-10-11
- token 降价反花更多钱:开发者实测 agent 时代的 Jevons 悖论 — daniel_mac8 · 2026-10-11
- Tenstorren服务器每美元折叠效率达H200四倍,抗体对接成功率19%升至84% — DavidBennett__ · 2026-10-11