AMD MI355X 跑 2.78T 参数 Kimi-K3,可承载 agent 数比 B300 多 60%
ryanshrout · x · 2026-09-23
Signal65 发布的 PINNACLE GPU 测试显示,在跑最大开源权重模型 Kimi-K3(2.78T 参数,MXFP4 权重)的 agentic 负载时,AMD Instinct MI355X 表现反超英伟达 B300:单节点可服务 32 个并发 agent,而 B300 为 20 个(1.6 倍余量),且满载时首 token 延迟仍保持在秒级以下;16 agent 以上场景 MI355X 也是更快的平台。
对想用最大开源模型跑 agent 集群的企业来说,可选节点本就有限,这组数据让 MI355X 成为值得考虑的选项。AMD 工程团队表示后续优化还会继续带来提升。
「Infra」频道最新
- 高通新芯片亮点:用闪存按需流式加载 30B MoE 权重 — ryanshrout · 2026-09-23
- 高通骁龙峰会:Hexagon NPU 可跑 30B+ 参数 MoE 模型 — samcharrington · 2026-09-23
- OpenAI 改进 GPT-6 提示缓存:命中率更高、新增诊断与显式断点 — OpenAI News · 2026-09-23
- NCCL 2.31.2 发布:GPU 驱动细粒度通信与 0-SM 集合通信等改进 — SkyLi0n · 2026-09-23
- vLLM ROCm 核心维护团队直到近期才拿到持久 MI355X 集群 — AccBalanced · 2026-09-23
- 南非民权组织抗议美国科技公司数据中心扩张,要求暂停建设 — ChinasaTOkolo · 2026-09-23