用两张矿卡 CMP 170HX 跑 Qwen 3.8 Flash,作者公开优化配置
leonbollerup · reddit · 2026-10-25
Reddit 用户 leonbollerup 分享了在 2 张 NVIDIA CMP 170HX(矿卡)上通过 vLLM 运行 Qwen 3.8 Flash Next 的配置，称在质量与性能上达到较优平衡，并将完整配置开源在 GitHub(inordic/cmp170hx-vllm-qwen38-flash-next),希望帮助有类似需求的人复现这套低价算力方案。
「Infra」频道最新
- 4090 单卡跑大模型推理：INT8 权重 + FP8 解码 + RAM 分级缓存方案 — AIFlow_ML · 2026-10-25
- 字节阿里腾讯狂买 300 万张 Nvidia RTX PRO 5500,总价超 350 亿美元 — Miles_Brundage · 2026-10-25
- Nebius OpenRouter 日处理量破 67B tokens,但同业体量仍是数倍 — AccBalanced · 2026-10-25
- 研究揭秘：开源模型推理市场存在类似金融「幌骗」的价格操纵 — AccBalanced · 2026-10-25
- EmbeddedLLM 获赠 AMD MI350X 服务器，推进 vLLM ROCm 优化 — AccBalanced · 2026-10-25
- 比利时旧煤电厂将装 106 座 Tesla Megapack，2027 年投运 — XFreeze · 2026-10-25