1.5 万欧收二手 DGX-1:8×V100 共 256GB 显存跑本地 LLM 值不值
fijasko_ultimate · reddit · 2026-11-09
作者在当地发现一台二手 NVIDIA DGX-1,报价约 1.5 万欧元,配置为 8× V100 32GB SXM2(共 256GB 显存、NVLink 互联)、双 Xeon E5-2698 v4、512GB 内存、4× IB EDR,功耗 3.5kW。作者想了解是否值得在 2026 年用它做本地 LLM 推理,希望有同配置用户分享实际跑哪些模型、吞吐如何,也计划先在 runpod/vast/lambda 等平台租类似配置试验,并顺带问它训练 CV 模型的表现。
「Infra」频道最新
- 谷歌扩大 AI 芯片产品线,冲击英伟达数千亿美元市场 — dinabass · 2026-11-10
- Thinking Machines 工程师离职回流 Modal，复盘造模型的基建岁月 — josh_wills · 2026-11-10
- 中期选举抛售后 AI 供应商前瞻估值中位数跌 15%，低于增长预期 — BenBajarin · 2026-11-10
- 三星 SK海力士各砸 70-150 亿美元抢购 ASML EUV,买的其实是排队资格 — demian_ai · 2026-11-10
- Google 用 AI 设计自身系统，副总裁详解 AI 基建与研发实践 — HaydnBelfield · 2026-11-10
- 马斯克重提第一性原理：电池物料仅80美元，还想到太空建AI数据中心 — elonmusk · 2026-11-10