AMD MI355X 跑 MiniMax M3.1 Flash 性能 20 天内提升 4 倍

AnushElangovan · x · 2026-11-18

SemiAnalysis 报告,不到 20 天内,AMD MI355X 上通过 vLLM 运行 MiniMax M3.1 Flash 的性能提升了 4 倍。关键在于 Inferact 用自研 FlyDSL 编写的新 AMD kernel:这些 kernel 是确定性的,不用 atomic adds 累加输出,消除了不确定性带来的开销。

配图显示不同日期(10-23 → 11-12)下每 $1 TCO 可处理的 token 数大幅抬升,中位交互性区间提升 2.55x4.04x;MI355X 大规模采购价约 $1.5/chip/hr。vLLM、Inferact 与 NVIDIA/AMD 生态工程团队的协作被认为是快速优化的代表案例。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →