矿渣重生:CMP170HX 双卡跑 Qwen Flash Next,实测 4000 tps 处理速度
Miserable-Dare5090 · reddit · 2026-09-02
Reddit 网友分享用两张解锁的 CMP170HX(「Spark」矿卡)搭建 DIY CUDA 主机跑大模型的完整方案:Newegg 低价 CPU/主板套装扩充 PCIe 通道,旧机迁移 64GB DDR5 内存与 SSD,廉价机箱加猫头鹰风扇散热,主 x16 插槽接 GPU 转接盒装两张 CMP170,其余旧卡走 oculink。实测 Qwen Flash Next 单卡即可装下,prompt 处理平均 4000 tps、单流解码 80+ tps(未开 MTP),并发表现良好;DeepSeek 仓库则需至少 3 张 64GB 卡,在矿卡涨价背景下赌注较大。目前机内同时跑 Flash Next、Qwen 27B、Gemma 26B 三个模型。
「Infra」频道最新
- AMD MI355X 数周内大幅提升智能体工作流性能 — AccBalanced · 2026-09-02
- 戴尔 Q2 营收 470 亿美元创纪录,AI 服务器收入同比翻倍至 164 亿 — Beth_Kindig · 2026-09-02
- Alchemy 将内置 Cloudflare 原生 tracing,一行 Layer 即接入 — samgoodwin89 · 2026-09-02
- 华尔街错判戴尔AI服务器周期,前瞻共识严重低估 — firstadopter · 2026-09-02
- 多机分布式部署:无缝切换无需重启 — doodlestein · 2026-09-02
- Stripe Projects 上线:CLI 一键集成 Shopify,专为 AI 代理打造 — jeff_weinstein · 2026-09-02