Qwen3.8 27B 在 RX 7900 XTX 上跑出 100-140 tokens/s
Jebbyk1 · reddit · 2026-11-20
Reddit 用户借助针对 RDNA3 架构调优的 llama.cpp fork,成功在 AMD RX 7900 XTX 上以投机解码运行 Qwen3.8 27B,生成速度达 100-140 tokens/s。
配图(llamaperf 社区报告)显示:Q4KM 量化、192K 上下文,生成 140.0 t/s、prefill 862.3 t/s。这一成绩表明 RDNA3 显卡在本地 LLM 推理上已可达到相当可用的速度。
「Infra」频道最新
- 量子计算瞄准 AI 工作负载,IBM 与 QuEra 公布容错路线图 — mikeflache · 2026-11-20
- 腾讯财报电话会:最新出口管制将加速中国半导体自给自足 — basedjensen · 2026-11-20
- Chorus 论文:共享 n-gram 嵌入表缩小 87%,性能反超 DeepSeek Engram — brown2green · 2026-11-20
- 内存仅 20MB 的浏览器 IDE px0 发布,作者谈如何逐层做减法 — arpit_bhayani · 2026-11-20
- 清昴智能发起昇腾 950DT 万卡级 Token 工厂,算力利用率从 40% 提至 80% — 量子位 · 2026-11-20
- SenseNova-Loop 9B 在 8GB 显存跑通,推理 token 省一半 — R_Duncan · 2026-11-20