R9V：RDNA4 定制内核跑 Qwen3.8 吞吐量提升 30 倍实测
Public_Umpire_1099 · reddit · 2026-08-31
作者发布了针对 AMD RDNA4 (R9700s) 架构高度定制的推理内核 R9V，并将其集成到 vLLM-Radiance 中，显著提升了 Qwen3.8-Flash-Next 和 Muse Glimmer 30B 的性能。
关键数据 (双 R9700, 128GB RAM):
- Qwen3.8 Flash Next: Prefill (PP8192) 达到 1510 tok/s (提升约 30x)，TG256 达到 78 tok/s (提升约 3x)。
- Muse Glimmer 30B: 各项指标均优于 llama.cpp (ROCm/Vulkan)。
技术细节:
- 深度利用了 RDNA4 的 Wave32 设计、DPP 操作和整数点积指令。
- 优化了 MTP (Speculative Decoding)，通过复用 token 路由实现 27% 的带宽优化。
- 优化了 Prefill 阶段，按专家分组 token (group size=16)。
- 针对密集模型，实现了多向量权重的有效复用和 HyperConnection 的融合。
「Infra」频道最新
- 同样 1000 个 Cloudflare Durable Objects，月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版，主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention：同时压 KV cache、算力并保质量 — baidu · 2026-10-16
- DuoDiscover 让 Agent 自建快速评估代理，TPU 内核提速 2.68 倍 — berkeley_ai · 2026-10-16
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16