双 MI50 共 64GB HBM2 本地推理机配置详解
Savantskie1 · reddit · 2026-10-06
作者分享自己的本地大模型推理工作站配置，核心是通过 PLX 扩展卡绕开 PCIe 通道拆分难题，装下两张显卡。
- GPU：2× AMD Instinct MI50 32GB，共 64GB HBM2 显存，配第三方涡轮散热器
- 互联方案：PLX8749 扩展卡（4× SFF-8654，PCIe x16）+ 底板与排线，避免主板 bifurcation 折腾
- 主机：Ryzen 5 5600G 负责显示与系统任务，MSI B550 主板，48GB DDR4，4TB NVMe
- 供电：双电源方案——850W 供系统，1250W 专供显卡
- 软件栈：Ubuntu 22.04 + llama.cpp（ROCm 6.4.3）+ OpenWebUI 前端
对想用廉价数据中心卡搭建本地推理的玩家是一份可参考的完整清单，作者欢迎提问。
「Infra」频道最新
- AI 工具悄悄吃掉 44 GB 磁盘,开发者免费开源清理工具 Sparewise — PossibilityKind3028 · 2026-10-06
- Nebius 涨价内存领涨 41%，芯片全面短缺开始写进云价目表 — tengyanAI · 2026-10-06
- GitHub Actions 再次大面积宕机，CI 流水线集体中断 — generativist · 2026-10-06
- 两台桌面 DGX Spark 跑起 462GB DeepSeek 模型,专家压到 2.77bit — Teknium · 2026-10-06
- 环保组织呼吁立即暂停在美国公共土地建设 AI 数据中心 — Polymarket · 2026-10-06
- KCoral:共享 GPU 池加速 agent 内核开发评测,吞吐提升 2.58 倍 — BeidiChen · 2026-10-06