AMD MI355X 跑 Kimi K3：吞吐量达 B200 的 3.8 倍，成本降 71%

SumitGup · x · 2026-08-04

Wafer.ai 团队成功在 AMD MI355X 芯片上实现了 Kimi K3 模型的高效推理部署。面对高达 2.8T 参数的庞大模型，他们通过优化使得 MI355X 达到了单节点 952 tok/s 的吞吐量。

相比 NVIDIA B200，AMD 方案在聚合吞吐量上提升了 3.8 倍，单流性能提升 1.3 倍，而推理成本大幅降低了 71%。这主要得益于 MI355X 拥有 288GB VRAM 的硬件优势以及 AMD 提供的 Day-0 软件支持，证明了其在极致性价比上对 NVIDIA 高端算力的挑战。