实测称 AMD ROCm 10.2 让 Qwen3.8-27B 推理吞吐达 2.2 倍

AnushElangovan · x · 2026-11-21

有博主在自建本地数据中心的 AMD GPU 上实测了刚发布的 ROCm 10.2 软件栈(对标 Nvidia CUDA),称其表现属实:在多路并发下跑 Qwen3.8-27B,吞吐量(tokens/秒)达到 2.2 倍。正在测试 Qwen3.8-Flash-Next,早期数据"好得离谱"。若数据可复现,意味着 AMD 在 LLM 推理侧对 CUDA 的替代能力显著提升。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →