实测称 AMD ROCm 10.2 让 Qwen3.8-27B 推理吞吐达 2.2 倍
AnushElangovan · x · 2026-11-21
有博主在自建本地数据中心的 AMD GPU 上实测了刚发布的 ROCm 10.2 软件栈(对标 Nvidia CUDA),称其表现属实:在多路并发下跑 Qwen3.8-27B,吞吐量(tokens/秒)达到 2.2 倍。正在测试 Qwen3.8-Flash-Next,早期数据"好得离谱"。若数据可复现,意味着 AMD 在 LLM 推理侧对 CUDA 的替代能力显著提升。
「Infra」频道最新
- OpenVINO:在 Intel CPU/GPU/NPU 上免 GPU 跑 AI 的开源工具包 — abhishek__AI · 2026-11-21
- AWS Lambda 现已支持 GPU,可在 Serverless 函数里托管模型 — samgoodwin89 · 2026-11-21
- 2.7万思考token零回答:谷歌Vertex AI以HTTP 200自动扣费23次空崩溃 — Plenty-Jackfruit-218 · 2026-11-21
- Hy4 Flash 读 100 万 token:Mac Studio 44 分钟,DGX Spark 81 分钟 — AIFlow_ML · 2026-11-21
- local-ai-registry:每块 GPU 一份实测验证过的本地模型运行配方 — LiTianleli · 2026-11-21
- Sous Labs 开源 Songe:用闲置算力在本地微调你自己的模型 — alexcovo_eth · 2026-11-21