本地跑 LLM 选卡:4 张 CMP-170HX 涨价 vs Mac Studio M5
rumboll · reddit · 2026-09-11
发帖人想自建本地 LLM 服务器,在两个方案间纠结:(a) 4 张 CMP-170HX——这款矿卡因可解锁 64GB 显存而在阿里巴巴平台 20 天内从约 1500 美元涨到约 2300 美元,显存品质较差但单位显存价格仍便宜;(b) Mac Studio M5 Ultra 256GB(10 月中还有 512GB 版)——LLM 生态对 NVIDIA 支持更好,但 Mac 易设置、低功耗、外观好。帖内讨论两类本地部署路线的性价比权衡,评论区围绕能耗、生态与显存容量展开。
「Infra」频道最新
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11
- 7900 XTX 24GB 能否跑 Qwen，Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11