3张5090混插AMD显卡跑DeepSeek:本地算力折腾实录
fluffywuffie90210 · reddit · 2026-08-10
一名 AI 硬件爱好者分享了自己在 3x RTX 5090 系统上混插 AMD 显卡以扩充显存的折腾经历。
- 硬件方案:计划利用 PCIe 延长线加入 AMD 9700 AI Pro,试图打造 128GB 显存的梦幻主机,专门用于本地运行参数庞大的 DeepSeek 模型。
- 技术痛点:指出 CUDA 与 ROCm 混用存在兼容性障碍,虽然可以通过 RPC server 配合 llama.cpp 环环相扣解决,但 MoE(混合专家)模型在多卡 RPC 下的加速效果极差,通常只有 Dense 模型才能获得良好收益。
- 成本权衡:作者在继续砸钱扩容显存,还是退而求其次购买 5070Ti 留作日常游戏用途之间纠结,发帖向社区求助。
「Infra」频道最新
- Nscale 数据中心液冷屡漏半年起火,挪威查出10项安全违规 — saranormous · 2026-10-16
- WSL 3.0 发布:内置原生容器,高频系统调用内核耗时降约 16% — solyarisoftware · 2026-10-16
- 魔改 22GB RTX 2080 Ti 跑本地 LLM,值不值?作者求实测经验 — Dave86ch · 2026-10-16
- Intel 开源低比特量化库 neural-compressor:支持 FP4/MXFP4/NVFP4 — HaihaoShen · 2026-10-16
- 770B 参数压进 214GiB:腾讯混元量化团队拆解 Hy4 Preview 压缩术 — coolmum18 · 2026-10-16
- TokenSpeed MLA 2 适配英伟达 Vera Rubin,解码内核较 B200 提速 3.44 倍 — zhyncs42 · 2026-10-16