AMD MI355X 跑 Kimi K3 推理吞吐超 B300 24%

vLLM 团队发布长文,详解在 8 卡 AMD Instinct MI355X 上部署 Kimi K3 推理的优化工作。SemiAnalysis 在 AgentX agentic coding 基准测试中显示,MI355X 跑 Kimi K3 的吞吐量超过 NVIDIA B300 达 24.4%,每美元产出的 token 多 87%,表明 AMD 在该最新模型的推理服务上已具备与 NVIDIA 竞争的实力。

2026-10-17 ~ 2026-10-17 · 2 条相关

另有 1 条近重复转述:AccBalanced