Signal65 实测:单节点 MI355X 跑 32 个 Kimi-K3 agent,竞品仅 20 个

ryanshrout · x · 2026-09-20

Signal65 的 Ryan Shrout 宣布 AMD Instinct MI355X 首次进入 PINNACLE GPU 基准结果,与三款新模型(Kimi-K3、GLM-5.2、MXFP8 版 MiniMax-M3)同批亮相:

Kimi-K3(2.78T 参数,最大开源权重模型) 以 MXFP4 权重部署,是 MI355X 明确领先竞品 B300 的唯一模型:单节点可支撑 32 个并发企业级 agent,是 B300(20 个)的 1.6 倍,且从 16 agent 起单 agent 速度也更快,首 token 仍在 1 秒内。
MI355X 相对上一代 MI300X 最多可承载 6.5 倍的 agent 数量。
基准口径:统一 PINNACLE agent harness,满载 8 卡节点、约 90K token 的 agentic 负载、并发递增;服务级标准为每 agent ≥10 tokens/s 且 95% 的 agent 60 秒内收到首 token。
结果覆盖 4 个 GPU 平台 12 个模型,首次支持跨代际对比;各平台 serving 配置仍在调优中,数字为时点数据。

「Infra」频道最新