AMD R9700 单卡跑 Qwen3.8-27B 达 227 tok/s，无损加速新纪录
samsja19 · x · 2026-08-27
Lucebox 引擎宣布在单张 AMD Radeon AI PRO R9700 (32GB, RDNA4) 上运行 Qwen3.8-27B，配合 z-lab 的 DFlash2 块扩散草稿模型，实现代码生成最高 227 tok/s，HumanEval 平均 208 tok/s，数学 133 tok/s。使用 Unsloth 的 UD-IQ4XS 量化模型，与 Q80 参考相比，KL 散度 0.018，top-1 一致率 94%，且无损（贪心验证只提交模型自身会生成的 token）。
「Infra」频道最新
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线，端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15
- 实测 Apple Silicon GEMM 性能:M6 矩阵单元 fp8 达 fp16 两倍,M5 不支持 — Brilliant-Hall1387 · 2026-10-15