本地大模型硬件升级路径探讨:5080 还是 Strix Halo?

bsofiato · reddit · 2026-07-13

作者目前使用 Ryzen 9 5900X 和 RTX 5080 运行本地模型(如 Qwen 35b A3B),希望尝试更大的稠密模型和 MoE 模型,向社区求助升级方案。 讨论涉及以下几条升级路径的优劣: 1. 升级显卡至 RTX 5090。 2. 增加一块 RTX 5060 Ti 组建双卡(受限于主板 PCIe 通道带宽)。 3. 混合使用 Radeon Pro AI R9700 和 RTX 5080。 4. 更换为 128GB 统一内存的 Strix Halo 主机(担忧速度过慢)。 5. 直接将系统内存扩充至 128GB,依靠大内存硬跑大参数 MoE 模型。

原文链接 →