Qwen3.8 27B 在 RX 7900 XTX 上跑出 100-140 tokens/s

Jebbyk1 · reddit · 2026-11-20

Reddit 用户借助针对 RDNA3 架构调优的 llama.cpp fork,成功在 AMD RX 7900 XTX 上以投机解码运行 Qwen3.8 27B,生成速度达 100-140 tokens/s。

配图(llamaperf 社区报告)显示:Q4KM 量化、192K 上下文,生成 140.0 t/s、prefill 862.3 t/s。这一成绩表明 RDNA3 显卡在本地 LLM 推理上已可达到相当可用的速度。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →