B300 与 MI355X 同样跑 52 个并发智能体,曲线却天差地别
ryanshrout · x · 2026-09-19
Signal65 的 PINNACLE 实测数据(被 Ryan Shrout 引述)显示:在单台 8-GPU 满载节点上以 MiniMax-M3 跑智能体工作负载,NVIDIA B300 与 AMD MI355X 都能维持 52 个并发智能体(每个智能体 ≥10 tokens/s)的服务水平。
但曲线形状完全不同:B300 在 8 个智能体时单智能体解码速度快 3.7 倍,16 个时快 2.4 倍,到上限时仍快 1.4 倍,但再往上性能断崖式下跌;MI355X 起点较低、衰减平缓,首 token 延迟稳定在 0.2 秒。
结论:并发数只说明节点能装多少人,曲线才说明用户体验和节点何时失效;采购决策两者都要看,且「每正确任务成本」才是关键。
所属事件:Signal65 实测 MI355X:并发 Agent 数约为 MI300X 两倍(3 条相关)→
「Infra」频道最新
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04
- 用一句提示词让 AI 排查跨区流量：迁移服务省掉跨大西洋延迟 — DanielLockyer · 2026-11-04
- SurrealDB 4 发布：多模型数据库瞄准 Agentic 时代 — Scobleizer · 2026-11-04
- 台松新竹多层材料厂凌晨大火爆炸，CCL 供应恐进一步吃紧 — zephyr_z9 · 2026-11-04
- 实测发现同名 Claude 一天走 Bedrock 一天走 Anthropic 直连 — georgos_pappas · 2026-11-04
- 自我改进软件不可避免：让应用读取自身信号并自动修复 — bibryam · 2026-11-04