单节点 8×B200 跑 3000 个 DeepSeek 智能体，容量提升 19 倍
james_y_zou · x · 2026-11-13
James Zou 转发的这项工作对 agent swarm 推理引擎做了优化，在单个 8×B200 节点上服务超过 3,000 个 DeepSeek-V4.1-Flash 智能体，相比官方 serving 方案 agent 容量提升 19 倍。
作为应用演示，该 agent swarm 在 EinsteinArena 的两个优化问题上发现了新的顶级解决方案。团队在后续推文中附上了博客文章。
「Infra」频道最新
- 微软重组数据治理战略:Purview 治理功能 2027 年退役并入 Fabric — davemccollough · 2026-11-13
- Melius 将英伟达评级下调至持有:近几周局势史无前例 — SumitGup · 2026-11-13
- 新加坡官方通报:黄仁勋关联女子被禁入境,调查未发现 sufficient 证据 — bookwormengr · 2026-11-13
- AMD CEO 苏姿丰获评 Yahoo Finance 2026 年度 CEO — Polymarket · 2026-11-13
- Prime Intellect 一年月 token 用量增 100 倍至 1 万亿,单 token 成本降 60% — willcb · 2026-11-13
- Ben Bajarin：算力的未来是「可互换」，超大规模云厂商押注工作负载通用性 — BenBajarin · 2026-11-13