Qwen3.8-27B 在 AMD Strix Halo 上跑出 31t/s
stereohype · reddit · 2026-08-20
在搭载 Ryzen AI Max+ 395 和 Radeon 8060S 的设备上，作者通过 DFlash2 推测解码方案和 Vulkan 后端，成功让 Qwen3.8-27B (Q5KXL) 在 80W 功耗下达到 31.4 t/s 的解码速度，预填充速度约 300 t/s。实测表明，DFlash2 比内置 MTP 快 40%，且在此配置下 Q5 量化比 Q4 更快（因更高的接受率抵消了带宽开销）。文章提供了完整的启动命令和优化建议。
「Infra」频道最新
- 旧金山办「算力交易大厅」：买家卖家面对面签算力协议 — ctjlewis · 2026-10-16
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性：衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16