PhD 生家用服务器 GPU 升级求策:3090、魔改 3080 还是 32GB 新卡
MrSkullking · reddit · 2026-10-14
一位 PhD 学生在 r/LocalLLaMA 发帖求建议:其 Proxmox 家庭服务器(现跑 RTX 3060 12GB + GTX 1660)承载 Qwen3 14B 做论文打标、Telegram 机器人、Whisper/Kokoro 语音、Jellyfin 转码等自托管服务,现在想升级 GPU 跑 Hermes Agent 编排 + 27B 级模型,做持久记忆、会议转写、日历规划、Home Assistant 集成,且科研数据要求全部本地。
候选方案(荷兰现价):二手 3090 每张 €1100–1400,最快但 24GB 只能跑 Q4/Q5 的 27B,且三槽卡双卡装不下;两张魔改 3080 20GB(涡轮)共 40GB 约 €650–900/张,但担心税费、噪音与显存改装的长期可靠性;全新 32GB 的 AMD R9700 约 €2000,有保修、可跑 Q6 加长上下文,但慢于 3090 且非 CUDA。他还算了电费账:电价 €0.27/kWh,1000W+ 三卡常开并不便宜。
具体求问:agent/tool-calling 场景下 27B 的 Q4/Q5 与 Q6/Q8 实际差距多大;魔改 3080 20GB 长期耐用性;ROCm/Vulkan 在 Proxmox 直通+与 NVIDIA 混插的实际体验;X99 的 PCIe 3.0 x16 是否拖累双卡张量并行;Flash-Next 把专家卸载到 DDR4 是否可用。
「Infra」频道最新
- 用 Alchemy 自定义资源给每个 PR 预览配独立数据库,成本固定不变 — samgoodwin89 · 2026-10-14
- Tidelines 排行:DeepSeek V4.1 Flash 日耗 5.5T tokens 居首 — maferase · 2026-10-14
- AI 繁荣扭转增速差:台湾 GDP 增速三年反超中国大陆 — NathanpmYoung · 2026-10-14
- Neocloud 话语权格局:Patrol、Linthicum 等七人主导讨论 — DavidLinthicum · 2026-10-14
- 马斯克力挺大摩报告:SpaceX 分布式推理云是被忽视的增长引擎 — elonmusk · 2026-10-14
- Valtz 登场:Mac 上一站式本地图/视频/音频生成,16GB 内存可用 — TgoAI · 2026-10-14