双 R9700 本地推理:PCIe Gen4 比 Gen5 损失多大?
IngwiePhoenix · reddit · 2026-09-30
一位攒机者在等了两年多后入手两张 AMD Radeon AI Pro R9700(合计 64GB 显存),准备用 llama.cpp + ROCm + llama-swap 做双卡推理与显存池化。
他的问题集中在主板选择:DDR5 RDIMM 太贵,若选 DDR4 + PCIe Gen4 平台(如 SP4/SP5 可省不少钱),对本地推理性能的损失到底有多大?帖子本身是求助,评论区讨论适合关注本地部署的用户参考。
「Infra」频道最新
- 堆 GPU 和 token 能加速 AI 自我迭代吗? — menhguin · 2026-09-30
- 9B 开源模型换入云端 Agent 系统,准确率从 96% 跌至 62.3% — TheZachMueller · 2026-09-30
- 黄仁勋:AI 数据中心年增 10-20GW,创造约百万岗位 — victor_explore · 2026-09-30
- 首届 SGLang Summit 定档 11 月:英特尔 CEO 与 Karpathy 级阵容齐聚 — BanghuaZ · 2026-09-30
- OpenAI 自研芯片负责人 Richard Ho 访谈上线 — bookwormengr · 2026-09-30
- Tenstorrent 开放生物模型训练:Blackhole Galaxy 性能接近 DGX H200,成本仅四分之一 — MoAlQuraishi · 2026-09-30