预算 600-900 美元跑 31B 量化模型：双卡 PCIe x1 方案求建议

Introvertosaurus · reddit · 2026-10-20

Reddit 用户希望在预算 600–900 美元内升级本地 AI 服务器，目标是运行 Gemma 31B Q5KM（约 23GB）并保持 16K 上下文、至少 15 t/s。当前配置为 i5-14400F + RTX 3060 12GB + 32GB DDR4，用 Ollama/llama.cpp 做 53% CPU / 47% GPU 混合卸载，输出仅 2.3 t/s。计划方案：加一块 RTX 5060 Ti 16GB（泰国约 750 美元），把 3060 挂到 PCIe 3.0 x1 供电转接卡上，合计 28GB 显存，但不确定 x1 带宽损失有多大。备选包括 2× Tesla P100 16GB 搭 X79/X99 至强平台（约 600–900 美元）、更便宜的 AMD 16GB 卡（但混用 AMD/NVIDIA 麻烦）或 M.2 转 PCIe x4 适配器。