测试揭示 B300 并发 Agent 容量超 H200 六倍
ryanshrout · x · 2026-09-02
Daniel Newman 指出 GPU 基准测试应关注单服务器支持的 Agent 数量而非单用户速度。测试显示，在同等条件下，单台 Nvidia B300 节点可维持 320 个 Agent（Qwen3.5-35B-A3B），而 H200 仅为 88 个。在大模型测试中，B300 并发支持数为 H200 的 6 倍。
所属事件:实测显示 B300 并发 Agent 容量达 H200 六倍(2 条相关)→
「Infra」频道最新
- 用 MLP 上下文强盗实现 LLM 能源节流 — hongyangzh · 2026-09-02
- PgDog 对比 RDS Proxy：开源替代快 2 倍且无连接锁定 — _changxu · 2026-09-02
- 英伟达四年增长 1730%，下财年营收或达 6370 亿美元 — thedealdirector · 2026-09-02
- DeepSeek-V4 黑卡部署实录：修复 SGLang 三大 Bug — shrug_hellifino · 2026-09-02
- LangChain 微调 Qwen 评估 Agent，成本降至 GPT-5.5 1% — LangChain · 2026-09-02
- Anthropic 修改 Messages API 防止模型蒸馏 — maksym_andr · 2026-09-02