实测 CMP170HX 矿卡:4 卡 256GB 显存跑 LLM,性能与性价比分析

m94301 · reddit · 2026-08-12

用户 m94301 对 CMP170HX 矿卡进行了详细测试,使用 4 张 8GB 卡(共 256GB 显存)运行多种 LLM。测试显示,单卡可运行 20B 模型,多卡可运行 120B 甚至 1M 上下文模型。文章提供了各模型的 token 生成速度、预填充速度等数据,并讨论了 PCIe 带宽、功耗等注意事项。作者认为以 $200 价格购入很划算,但需接受 Ampere 级性能。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →