本地LLM服务器升级方案讨论
CryMoreT_T · reddit · 2026-07-17
楼主在讨论如何升级自己的本地 LLM 服务器，希望在 **预算 3000–3500 美元** 内获得更高性价比，并尽量便于后续扩展。 现有配置包括： - i9-12900K - Z690 主板 - 32GB DDR5 - 3090 + 3060 + 22GB VRAM 的 2080 Ti 计划升级到更偏服务器/工作站的方案： - ASRock Rack ROMED8-2T/BCM 主板 - EPYC 7302P - 512GB DDR4 ECC - 12 GPU 矿架 + 3 个 1600W 电源 - 目标总显存约 244GB 他还提到想跑 **DeepSeek v4 flash** 的最大上下文，并考虑 **q8**，也可能跑较低量化的 **GLM5.2** 或 **Kimi K3**。