B300 与 MI355X 同样跑 52 个并发智能体,曲线却天差地别
ryanshrout · x · 2026-09-19
Signal65 的 PINNACLE 实测数据(被 Ryan Shrout 引述)显示:在单台 8-GPU 满载节点上以 MiniMax-M3 跑智能体工作负载,NVIDIA B300 与 AMD MI355X 都能维持 52 个并发智能体(每个智能体 ≥10 tokens/s)的服务水平。
但曲线形状完全不同:B300 在 8 个智能体时单智能体解码速度快 3.7 倍,16 个时快 2.4 倍,到上限时仍快 1.4 倍,但再往上性能断崖式下跌;MI355X 起点较低、衰减平缓,首 token 延迟稳定在 0.2 秒。
结论:并发数只说明节点能装多少人,曲线才说明用户体验和节点何时失效;采购决策两者都要看,且「每正确任务成本」才是关键。
所属事件:Signal65 实测：MI355X 并发 Agent 能力远超 MI300X(2 条相关)→
「Infra」频道最新
- 全球约20%芯片设计工程师在印度,美系大厂大量设计团队落地当地 — bookwormengr · 2026-09-19
- HBM 市场 2027 年或达千亿美元,美光锁 5 年长约改写内存周期 — Beth_Kindig · 2026-09-19
- Reddit 用户开源本地模型硬件 ROI 计算器,按内存带宽估性能 — SnoobieJunes · 2026-09-19
- NVIDIA 开源 AIPerf：高并发下压测 LLM 推理性能 — NVIDIAAI · 2026-09-19
- SemiAnalysis:跑 Kimi K3 时 AMD Mi355X 每吉瓦利润率 53.6%,反超英伟达 — m2saxon · 2026-09-19
- 用 Lambda MicroVM 搭跨设备 AI 编程环境,作者日常使用 — blaizedsouza · 2026-09-19