魔改 CMP 170hx 跑 Qwen 27B 超 100 tps,卖掉升级反而更慢?
JustinPooDough · reddit · 2026-11-04
发帖人在老平台(Ryzen 5 1600 + Asus B350-F + 64GB DDR4 + 3090)上使用魔改矿卡 CMP 170hx 本地跑 Qwen 27B,速度超 100 tokens/s,体验很好。这张卡价格已翻倍,他在纠结是否卖掉换 CPU/主板/内存,以尝试通过内存+SSD 跑 Strata 或 Maya 这类大模型。他倾向于「卖掉换不回当前性能」,发帖征求意见。对本地部署玩家有实际的硬件配置参考价值。
「Infra」频道最新
- vLLM v0.33.0 发布:927 次提交,GB300 解码延迟最高降 2 倍 — vllm_project · 2026-11-04
- Fireworks 发布 Ultra-fast 推理:1500 tok/s 与半价后台推理 — nicolechirps · 2026-11-04
- Fireworks 活动现场讲解 EXL3 滑动窗口位共享量化技巧 — sophiamyang · 2026-11-04
- ThunderAgent 并入 LLM-D,Agent 推理吞吐翻倍、首 token 延迟从 50 秒降到秒级 — simran_s_arora · 2026-11-04
- TimescaleDB Enterprise 开启公测,瞄准工业数据基础设施新史官定位 — erinmikail · 2026-11-04
- 曝 DeepSeek 今夏已用昇腾做 V4 后训练,V5 看点在 5T 参数规模 — AccBalanced · 2026-11-04