网友花 1900 美元收水冷双 V100 工作站,搞定 128GB 显存本地跑模
a4mula · reddit · 2026-11-01
一位 Reddit 用户分享了自己在 GPU 涨价潮下搭建本地推理平台的曲折经历:
- 原本只用 3060 Ti + 32GB 内存跑 Qwen 等本地模型,想加卡却发现二手市场「GPU 末日」,无论 eBay 还是 Marketplace 都贵得离谱。
- 先考虑老 C602 工作站 + P100 方案,预算约 1500 美元,但受限于 48GB 显存上限和 DDR3/PCIe3。
- 最终以约 1900 美元(含税)入手一台 z840 工作站:128GB DDR4 + 双张水冷改 PCIe 的 32GB SXM2 V100。这些卡单张市价 700-800 美元,水冷套件(冷头、distribution 板、泵)接近千元。
- 整机可在空闲时低功耗静默运行,64/128 显存/内存分配令人满意;遗留问题是无原生 m.2/NVMe(SSD 走 PCIe3 riser 限速 3500MB/s)和 V100 无视频输出,需配 headless 服务器。
作者表示跑通后会回来分享具体性能数据。
「Infra」频道最新
- Musk 披露 Macrohard 算力配置：11 万块 GB200 加 22 万块 GB300 — TinfoilTricorn · 2026-11-01
- RTX 4070 跑 MiniMax H3：12 秒视频 1.5 小时，15 秒却要 5 小时 — Serenaded · 2026-11-01
- AI 板块集体暴跌:Intel 跌 30%,传 Anthropic 获垃圾级评级 — teortaxesTex · 2026-11-01
- 实测 DeepSeek V4.1 Flash 经 Baseten 跑出约 1038 tok/s 生成速度 — gajesh · 2026-11-01
- 曝 64GB/96GB 显存版 RTX 5090 确认,2026 年 11 月发布 — lxfater · 2026-11-01
- 把笔记本 GPU 借给台式机,用 Qwen 本地生成 Galaga 风格小游戏 — draginol · 2026-11-01