实测 Blackwell B300 并发 Agent 容量为 H200 6 倍
ryanshrout · x · 2026-09-02
Signal65 PINNACLE 基准测试显示,在全负载 8-GPU 节点的 Agent 工作负载中,NVIDIA Blackwell Ultra B300 可支持的并发 Agent 数量是 H200 的 6 倍(96 对 16),在 7 个模型测试中平均提升 3.15 倍。单台 B300 节点在 Qwen3.5-35B-A3B 模型上可维持 320 个 Agent 工作流,每个 Agent 上下文约 9 万 tokens。
所属事件:实测显示 B300 并发 Agent 容量达 H200 六倍(2 条相关)→
「Infra」频道最新
- 论文:LLM 竞价采购平台可省 10%-71% 推理成本 — _onionesque · 2026-10-18
- 560B MoE 塞进 4 台 DGX Spark:Ling 3.1 Flash 用 llama.cpp RPC 跑通 — BerryBlush_Rogers691 · 2026-10-18
- SGLang Summit 赞助商一周从 11 家涨到 36 家 — ying11231 · 2026-10-18
- Oracle CDS 飙至 300bps 创纪录,被称 AI 交易倒下的第一块多米诺 — arthurcolle · 2026-10-18
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18