3张5090混插AMD显卡跑DeepSeek:本地算力折腾实录
fluffywuffie90210 · reddit · 2026-08-10
一名 AI 硬件爱好者分享了自己在 3x RTX 5090 系统上混插 AMD 显卡以扩充显存的折腾经历。
- 硬件方案:计划利用 PCIe 延长线加入 AMD 9700 AI Pro,试图打造 128GB 显存的梦幻主机,专门用于本地运行参数庞大的 DeepSeek 模型。
- 技术痛点:指出 CUDA 与 ROCm 混用存在兼容性障碍,虽然可以通过 RPC server 配合 llama.cpp 环环相扣解决,但 MoE(混合专家)模型在多卡 RPC 下的加速效果极差,通常只有 Dense 模型才能获得良好收益。
- 成本权衡:作者在继续砸钱扩容显存,还是退而求其次购买 5070Ti 留作日常游戏用途之间纠结,发帖向社区求助。
「Infra」频道最新
- Google 开源 TPU 推理优化库 Raiden,优化 KVCache 跨实例传输 — xennygrimmato_ · 2026-08-10
- AI 算力成战略资源,科技巨头承诺自建电力基础设施 — bittingthembits · 2026-08-10
- DwarfStar 结合投机解码,大幅加速 DeepSeek 推理 — antirez · 2026-08-10
- 神经AI新突破:内存芯片实时高精度重建人类大脑皮层 — Dr_Alex_Crimi · 2026-08-10
- Cursor 与 Together AI 合作:打造低延迟 AI 编程推理底座 — togethercompute · 2026-08-10
- SK海力士承诺三季度出台股东回报措施 — toptickcrypto · 2026-08-10