SGLang 回应对比争议：重跑后 prefill 性能持平或超越 DeepInfer
hsu_byron · x · 2026-10-25
SGLang 团队（Banghua Zhu 等）回应近期推理引擎对比中的方法论争议：有 prefill 对比把 GB300 结果与 DeepInfer 公布的 B300 数字并列，跨硬件、跨并行配置的比较难以隔离推理引擎本身的改进。
团队在 B300 和 GB300 上重跑了 DeepInfer：
- 在自己的 B300 硬件上，DeepInfer 多个配置下的 prefill 吞吐高于其公布结果；团队以其每个点的最快配置作为更强的基线，两引擎同硬件、匹配 DP/EP 配置。
- 在这一更强基线下，SGLang prefill 性能持平或超越 DeepInfer：4×GB300 与 4×B300 上最高 1.04× 吞吐；64×GB300 上 decode 吞吐最高提升 7.4%。
- 提供完整复现指南与生产级 serving 栈，计划提交 AgentX；同时强调 DeepInfer 值得完全的肯定。
所属事件:SGLang 回应对比争议并称已追平 DeepInfer(2 条相关)→
「Infra」频道最新
- 新模型实验室靠倒卖 GPU 算力躺赚，租价已涨 2-3 倍 — ivan_bezdomny · 2026-10-25
- TensorSharp 首发支持 MiniMax-M3.1-Flash，64K 预_fill 快 9.8 倍 — fuzhongkai · 2026-10-25
- ANEMLL Forge 0.2.1：M6 Mac Mini 32GB 上跑 Qwen3.8-27B 达 192K 上下文 — Competitive-Bake4602 · 2026-10-25
- 算力合同「纸面vs点亮」对照表：Nscale 已签 GPU 仅 5% 在运行 — AccBalanced · 2026-10-25
- MCP 从 Node 重写为 Rust，内存占用降至约 1/8 — draginol · 2026-10-25
- 305M 激活参数小模型离线操控电脑：断网订日历只要 0.26 秒 — lmoroney · 2026-10-25