离线大模型硬件配置讨论

HyperWinX · reddit · 2026-07-09

作者在为完全离线使用的大模型系统规划硬件，列出了双路 Xeon、256GB 内存和 V100 16GB 等配置，并讨论了内存带宽、GPU 选择与整机成本。