实测：2×R9700 跑 Qwen 3.8 Flash Next 反超 3 卡配置，35 t/s
MarcusAurelius68 · reddit · 2026-09-05
作者在自己 X570 平台（Ryzen 9 5900XT、64GB DDR4、Windows 11）上对比了 2 卡与 3 卡 AMD R9700（32GB）运行 Qwen 3.8 Flash Next 的本地推理表现，结论是 2 卡反而更快。
关键发现：
- 3 卡配置下第三张卡走芯片组的 x4 慢速通道，拖累了整体性能；
- 用 2×R9700 跑 AD-4.27bpw Q4KM 量化版（33 个分片 GGUF，131k 上下文），经参数优化（尚未启用 MTP）后达到 prompt 处理 242 t/s、生成 35 t/s，整体优于 3 卡方案；
- 帖中给出完整 llama-cli 启动命令，包括 --fa on、q80 KV cache 量化、--jinja、采样参数等细节。
对想在消费级硬件上本地跑大上下文模型的人，这是一份可直接照抄的配置参考。
「Infra」频道最新
- SGLang 合并 Megakernel 低延迟模式，GB300 单用户近 1000 tok/s — ying11231 · 2026-10-21
- 拆解 Agent 拓扑:模型、循环与工具各跑在哪,决定成本与安全 — davidcrawshaw · 2026-10-21
- Chris Lattner 登台 PyTorchCon：用 MAX 和 Mojo 跨厂商扩展 PyTorch — PyTorch · 2026-10-21
- General Compute 宣布与 Positron AI 集群级合作，2027Q1 上线 — eptwts · 2026-10-21
- MemTensor 推出记忆原生架构 MemT-1.0：推理提速 1.86 倍，128K 存储省 66 倍 — _akhaliq · 2026-10-21
- LithosAI 承包 Artificial Analysis 12 项第一：GLM 5.3 Flash 跑出 1543 tok/s — JiaZhihao · 2026-10-21