AMD MI355X 跑 2.78T 参数 Kimi-K3,可承载 agent 数比 B300 多 60%

ryanshrout · x · 2026-09-23

Signal65 发布的 PINNACLE GPU 测试显示,在跑最大开源权重模型 Kimi-K3(2.78T 参数,MXFP4 权重)的 agentic 负载时,AMD Instinct MI355X 表现反超英伟达 B300:单节点可服务 32 个并发 agent,而 B300 为 20 个(1.6 倍余量),且满载时首 token 延迟仍保持在秒级以下;16 agent 以上场景 MI355X 也是更快的平台。

对想用最大开源模型跑 agent 集群的企业来说,可选节点本就有限,这组数据让 MI355X 成为值得考虑的选项。AMD 工程团队表示后续优化还会继续带来提升。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →