$250 淘矿卡魔改 30GB 显存,老 i7 主机跑 Qwen 达 30 tok/s
HFq_Dev · reddit · 2026-09-19
一位 Reddit 用户用旧电脑(i7-4790K + Z97 + 32GB DDR3)搭出本地推理服务器:原 GTX 1070 保养时意外损坏后,他转向二手矿卡——两张魔改 CMP50HX(一张 20GB/PCIe x16 魔改版、一张 10GB 原版),合计 30GB 显存仅花 $250(如今价格已翻倍)。
关键在于社区驱动补丁:新驱动补丁几乎解除了矿卡算力限制,还支持 PCIe 2.0(原卡仅 PCIe 1.1)。性能因此翻倍:Qwen3.8 27B(MTP 开启)达 30-35 tok/s,prompt 处理 300-400 tok/s;MoE 模型 Ornith 1.5 35BA3B 更跑到 80-100 tok/s。受 PSU 限制他把功耗压在 180W(满血 225W 还能更快)。
踩坑经验:补丁对 20GB 版本支持不全、休眠唤醒会导致驱动崩溃(禁用睡眠即解决,PCIe 补丁问题),作者已为不同量化等级和 KV cache 配置做了多套预设。这是低成本本地部署的完整参考案例。
「Infra」频道最新
- 内罗毕首届 Cafe Compute 聚会演示 Cerebras,呼吁推理层可解释性 — paw_lean · 2026-09-19
- Cerebras 用 Qwen 27B 打造购房理财助手 Money Agent — Alibaba_Qwen · 2026-09-19
- GPU 出租遭租客利用发起攻击，Clore.AI 拒不处理还封号 — anomaly256 · 2026-09-19
- 3M 曾赔 103 亿美元弃产 PFAS，AI 数据中心又把它做成增长市场 — aakashgupta · 2026-09-19
- 随机删缓存也行？研究揭示KV Cache驱逐机制被高估 — 机器之心 · 2026-09-19
- 读懂一次预训练:P0/P1/P2 三级指标体系系统梳理训练监控信号 — SonglinYang4 · 2026-09-19