两块 115 美元矿卡 APU 跑 Qwen 35B：60 tok/s 只要 300 美元
Ok-Breadfruit-3523 · reddit · 2026-09-24
作者分享了低成本本地 AI 部署方案：两块从矿业市场淘来的 BC-250 APU（每块 115 美元），共约 27GB 显存，用 llama.cpp 的 Vulkan + RPC 通过 1Gb 以太网互联，在 Bazzite 系统上以 Q4KM 量化跑 Qwen3.6-35B-A3B，速度达 60 tok/s、64K 上下文。
整套含电源约 300 美元。他还打算再加四块凑六卡，尝试跑 Qwen 3.8 Flash。对预算有限的本地部署玩家是一个可复制的参考方案。
「Infra」频道最新
- Starlink 美国城市用户增速 73% 反超农村，上传速度提升 42% — XFreeze · 2026-11-11
- Cloudflare 采用未经实战的共识算法 QuePaxa,替代 Raft/Paxos 建 Meerkat — sull · 2026-11-11
- 用 AI 扫遍全美废弃商场，改造成数据中心的脑洞 — LinusEkenstam · 2026-11-11
- Anthropic S-1 曝 260 亿美元私募：七大供应商按 IPO 价入股 — demian_ai · 2026-11-11
- SpaceXSI 1.2GW 燃气电厂获密西西比州环保许可,为 Colossus II 供能 — XFreeze · 2026-11-11
- Anthropic 称用 AI 3 天完成 AMD GPU 移植,动摇 Nvidia CUDA 护城河 — The Decoder · 2026-11-11