AMD MI355X 跑分出炉：DeepSeek V4 Pro 上每瓦吞吐反超 B200，Kimi K3 上仅 B300 三分之一
ArtificialAnlys · x · 2026-10-15
Artificial Analysis 将 AMD 旗舰加速器 MI355X 加入其 agentic 推理基准 AA-AgentPerf，回放真实编程 agent 会话（含 prompt cache 与工具调用延迟），在单机 8 卡节点上对比 NVIDIA B200/B300，软件栈用 ROCm nightly 及 vLLM/SGLang 开发版。
关键结果：
- DeepSeek V4 Pro 0813（1.6T 参数）：MI355X 最强项。在每用户 35-75 tok/s 区间，每瓦吞吐比 B200 高 15%-40%，峰值约 94M tokens/s/MW（B200 需降到 13 tok/s 才达到）；单 agent 速度 240 tok/s vs B200 的 367。约 288GB HBM3E 对 180GB 是大模型上的优势来源。
- DeepSeek V4.1 Flash：单 agent 647 tok/s，与 B300（652）、B200（669）持平；但高负载下落后，100 tok/s 时约 128M tokens/s/MW，B200 约 193M、B300 约 220M。
- GLM-5.2/5.3：介于 Hopper 与 Blackwell 之间，100 tok/s 时约 26M tokens/s/MW，高于 H200（约 16M）但低于 B200（约 42M）与 B300（约 44M）；单 agent 228 tok/s 与 H200 相当。
- Kimi K3（2.8T 总参/104B 激活）：差距最大，50 tok/s 时约 8M tokens/s/MW，仅 B300（约 24M，多机分离式部署）的三分之一；单 agent 152 tok/s vs 235。
总体看，MI355X 凭借 288GB 显存在超大模型、中低输出速度场景下有性价比亮点，但高负载吞吐与 NVIDIA 旗舰仍有明显差距。排行榜结果将随 AMD 软件/推理栈改进持续更新。
所属事件:AMD MI355X 登陆 AA-AgentPerf，每瓦吞吐表现分化(2 条相关)→
「Infra」频道最新
- 算力是下一个大宗商品：GPU 是油井，token 是燃气 — AnneliesGamble · 2026-10-15
- OCP 关键幻灯片:Rubin Ultra NVL576 用 CPO 做 scale-up — BenBajarin · 2026-10-15
- TensorFold 推出 macOS 应用，本地跑开源模型实测 874 tok/s — HankYeomans · 2026-10-15
- Enroute 开源:Raft+S3 打造单仓 7600 并发推送/秒的 Git 服务器 — DanielLockyer · 2026-10-15
- 分析:若信贷收紧,neocloud 承压,超大规模云厂反而受益 — RihardJarc · 2026-10-15
- OCP 光互连秀肌肉:InnoLight PIC 现场故障率 FIT<0.01,Credo 推 LPDDR 扩展 — AccBalanced · 2026-10-15