三张 3090 跑到 100 t/s,Reddit 求第四张卡扩展方案

Blues520 · reddit · 2026-10-15

一位用户在 Threadripper 3960X + ROG Strix TRX40-E 主板(仅 3 条 PCIe 插槽)上跑了 3 张 3090(PCIe 4.0 x16),运行 Qwen 系列模型时达到约 100 tokens/s,现在想加第四张 3090 跑其他模型,纠结三种方案:

另外担心降到 x8 会不会影响推理速度——因为所用模型似乎对整机系统依赖较大,不只是 GPU 本身。帖子在征求有经验者的建议。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →