140 美元捡漏 AMD MI50：老平台加卡跑 30B 模型提速近 9 倍

tabletuser_blogspot · reddit · 2026-09-20

Reddit 用户在 GTX-1080Ti（11GB 显存）基础上加装一张仅 140 美元的二手 AMD Radeon MI50（16GB，刷成 Radeon VII 固件），组成 27GB 显存的本地推理平台，用 llama.cpp Vulkan 版实测多款 30B 级模型。

系统用 Kubuntu + Vulkan 预编译版，无驱动冲突；通过 GGMLVKVISIBLEDEVICES 分别测单卡与双卡，附完整 llama-bench 命令
实测模型包括 Qwen3.5 35B MoE（MXFP4）、Nemotron 31B MoE、Qwen3.5 27B、Gemma3 27B、Gemma4 26B MoE 等多个 GGUF 量化版本
稠密模型受益最大：Gemma3 27B 生成速度从 1.5 t/s 升到 14.96 t/s（约 +896%），Qwen3.5 27B 从 2.1 t/s 到 15.6 t/s（+642%），Nemotron 31B +504%
MoE 模型本身单卡已够快，双卡主要提升生成与预填充吞吐
结论：140 美元就能让本地跑 30B 级稠密模型成为现实选择

「Infra」频道最新