实测 CMP170HX 矿卡：4 卡 256GB 显存跑 LLM，性能与性价比分析
m94301 · reddit · 2026-08-12
用户 m94301 对 CMP170HX 矿卡进行了详细测试，使用 4 张 8GB 卡（共 256GB 显存）运行多种 LLM。测试显示，单卡可运行 20B 模型，多卡可运行 120B 甚至 1M 上下文模型。文章提供了各模型的 token 生成速度、预填充速度等数据，并讨论了 PCIe 带宽、功耗等注意事项。作者认为以 $200 价格购入很划算，但需接受 Ampere 级性能。
所属事件:实测CMP170HX矿卡：256GB显存高效运行大模型(2 条相关)→
「Infra」频道最新
- Nscale 数据中心液冷屡漏半年起火，挪威查出10项安全违规 — saranormous · 2026-10-16
- WSL 3.0 发布:内置原生容器,高频系统调用内核耗时降约 16% — solyarisoftware · 2026-10-16
- 魔改 22GB RTX 2080 Ti 跑本地 LLM,值不值?作者求实测经验 — Dave86ch · 2026-10-16
- Intel 开源低比特量化库 neural-compressor:支持 FP4/MXFP4/NVFP4 — HaihaoShen · 2026-10-16
- 770B 参数压进 214GiB：腾讯混元量化团队拆解 Hy4 Preview 压缩术 — coolmum18 · 2026-10-16
- TokenSpeed MLA 2 适配英伟达 Vera Rubin，解码内核较 B200 提速 3.44 倍 — zhyncs42 · 2026-10-16