3090+魔改64GB CMP 170HX 双卡跑 H3 频遇 OOM,求固定显存分配方案
JustinPooDough · reddit · 2026-09-06
一位 Reddit 用户在 ComfyUI 中用 24GB 的 3090 加解锁到 64GB 的 CMP 170HX 双卡运行 Minimax H3(NVFP4 剪枝版)与 Qwen3-VL-32B。他计划把扩散模型与 VAE(BF16,约 46GB)固定在 CMP 170HX、文本编码器(约 16GB)固定在 3090,理论上显存充足,但用 --highvram 启动后 3090 仍报 OOM;不用该标志虽能跑但单次生成超 15 分钟。帖子询问如何把各组件钉在指定 GPU 上避免 offloading,CMP 170HX 的 PCI-E 2.0 4x 慢速带宽也是限制因素。
「Infra」频道最新
- llama.cpp 团队发布 Llama：Mac 菜单栏一键本地跑 AI 模型 — Hugging Face · 2026-10-23
- 中国日均 Token 消耗达 500 万亿,均价一年从 6.8 元涨至 13.46 元 — teortaxesTex · 2026-10-23
- 优化 PCIe 小消息 all-reduce 内核，DeepSeek-V4.1 推理解码提速 12% — AlpinDale · 2026-10-23
- 海上油气平台拟改建为 AI 数据中心，烧闲置天然气供算力 — clemnt · 2026-10-23
- 同为原生 UI:Swift 版 80MB 仅限 Mac,Zig 版 10MB 三端通吃 — jedisct1 · 2026-10-23
- 开源本地版 NotebookLM:SurfSense 全文档问答与文档编辑 Agent — FurtiveMirth · 2026-10-23