PhD 生家用服务器 GPU 升级求策:3090、魔改 3080 还是 32GB 新卡

MrSkullking · reddit · 2026-10-14

一位 PhD 学生在 r/LocalLLaMA 发帖求建议:其 Proxmox 家庭服务器(现跑 RTX 3060 12GB + GTX 1660)承载 Qwen3 14B 做论文打标、Telegram 机器人、Whisper/Kokoro 语音、Jellyfin 转码等自托管服务,现在想升级 GPU 跑 Hermes Agent 编排 + 27B 级模型,做持久记忆、会议转写、日历规划、Home Assistant 集成,且科研数据要求全部本地。

候选方案(荷兰现价):二手 3090 每张 €1100–1400,最快但 24GB 只能跑 Q4/Q5 的 27B,且三槽卡双卡装不下;两张魔改 3080 20GB(涡轮)共 40GB 约 €650–900/张,但担心税费、噪音与显存改装的长期可靠性;全新 32GB 的 AMD R9700 约 €2000,有保修、可跑 Q6 加长上下文,但慢于 3090 且非 CUDA。他还算了电费账:电价 €0.27/kWh,1000W+ 三卡常开并不便宜。

具体求问:agent/tool-calling 场景下 27B 的 Q4/Q5 与 Q6/Q8 实际差距多大;魔改 3080 20GB 长期耐用性;ROCm/Vulkan 在 Proxmox 直通+与 NVIDIA 混插的实际体验;X99 的 PCIe 3.0 x16 是否拖累双卡张量并行;Flash-Next 把专家卸载到 DDR4 是否可用。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →