双卡 R9700 本地推理踩坑:从 LGA1700 升级 Threadripper 的 PCIe 通道账
El_90 · reddit · 2026-09-21
一位 Reddit 用户在 LGA1700 老主板上用 2 张 R9700 跑 vLLM 时,发现主板不支持 P2P 和 PCIe atomics,于是规划升级平台,目标是今天支撑 2 卡、未来可扩展到 4 卡跑 27B 级小模型,同时为 1-3 年后 DDR6 上市后淘二手 DDR5 留余地。
他的推演:
- 内存:八通道 DDR4 只利于大 MoE,现在不必锁定;DDR5 今天容量小但更具前瞻性。
- PCIe 通道:3×Gen5 + 1×Gen4 对 TP=4 有瓶颈,排除 Intel 1851(总通道不足);4×Gen5x16 的完整方案里,TRX50 顶级组合(Gigabyte AI TOP-2B + 7000-WX)超 5000 美元,WRX90 约 2500 美元但需 EEB 主板、机箱和双电源。
结论:纯 4×Gen5 在成本/空间/用例上都说不通;Gen5+Gen4 是折中但留有未来瓶颈;保守路线是 Z890 上 2×Gen5x16。他向社区征求是否遗漏了其他架构(暂不考虑偏服务器定位的 Epyc)。
「Infra」频道最新
- Rothschild Redburn 看空 AI 算力，下调 NBIS 与 CRWV 至卖出评级 — JOBhakdi · 2026-09-21
- PC 内存条零售价持续上涨，Meta 的 Muse 仍居 App Store 榜首 — firstadopter · 2026-09-21
- 干细胞成像模型量化实测：W4/W8 混合压缩 6.76 倍零失败 — capicu-ai · 2026-09-21
- 爆料:DeepSeek 正训练 2T 参数模型,8T 也在规划中 — Hesamation · 2026-09-21
- CXMT 产能六年扩 10 倍，2026 年底逼近美光水平 — Terminator857 · 2026-09-21
- Komlós 猜想被宣布解决,数学家点出其对神经网络量化的隐含意义 — stevenstrogatz · 2026-09-21