折腾矿卡：CMP 170HX 运行 llama.cpp 提速 50% 实测
fragment_me · reddit · 2026-08-14
一位开发者分享了使用两张解锁后的 CMP 170HX 矿卡（65GB）运行 llama.cpp 的性能调优经验。
通过强制开启 GGMLCUDAFORCECUBLAS，在运行 Qwen 3.6 27B 模型时，其 Prompt 处理速度从每秒 1000 token 提升至 1500 token，提升幅度约 50%。不过作者指出，即便提速，该卡的整体速度仍不及 RTX 3090。
所属事件:实测CMP170HX矿卡：256GB显存高效运行大模型(2 条相关)→
「Infra」频道最新
- Rebasely 公测：为人和 Agent 共写代码打造的新 Git 托管 — handotdev · 2026-10-16
- Drama3 语音合成登陆 audio.cpp:RTX 5090 上最高 5 倍实时速度 — Acceptable-Cycle4645 · 2026-10-16
- Drama3 语音合成登陆 audio.cpp:RTX 5090 上最高 5 倍实时速度 — Acceptable-Cycle4645 · 2026-10-16
- CoreWeave 三位联创 IPO 后套现 33 亿美元,信贷风险引股价震荡 — SumitGup · 2026-10-16
- 传闻新模型 cherry pi 小到能跑在树莓派上? — sull · 2026-10-16
- CoreWeave 债务成本大幅下降:DDTL 利差从 S+9.62% 收窄至 S+2.25% — BenBajarin · 2026-10-16