SGLang MegaKernel+PD 发布：高并发吞吐与低延迟兼得，TCO 大幅优化
AccBalanced · x · 2026-10-27
SemiAnalysis 祝贺 SGLang 与 RadixArk 团队发布 MegaKernel + PD 分离方案，同时提升高并发吞吐与低延迟服务表现。配图为 SemiAnalysis InferenceX 对 DeepSeek V4.1 Flash 552B 的 Agentic 场景基准：在 GB300 NV72 上对比不同部署拓扑（DEP/TEP/TP 组合）下「每 1 美元 TCO 可服务的总 token 数」与 P90 交互速度（tok/s/user）的权衡曲线，Dynamo+SGLang 与纯 SGLang 配置在吞吐-交互前沿上明显外推，显示新方案把成本-延迟帕累托前沿整体推进（GB300 每芯片时 TCO 为 $2.31，数据更新至 2026-10-26）。
「Infra」频道最新
- Intel 宣布收购 Classiq,打造全栈量子计算平台 — BenBajarin · 2026-10-27
- 分析师：蚂蚁自建数据中心与自研推理芯片将进一步抬高利润率 — BenBajarin · 2026-10-27
- 公路劫匪盯上 AI 基建：数据中心设备被盗数百万美元 — supertrope · 2026-10-27
- 用 Sail 等价性证明与 riscv-coq 交叉验证 RISC-V 规范,发现真实 bug — xennygrimmato_ · 2026-10-27
- xAI Colossus 1 数据中心 FP64 算力约 14.6 exaflops,达 Top500 榜首 5 倍 — cis_female · 2026-10-27
- Lambda 实测 NVIDIA DSX MaxLPS：同等电力多跑 3 节点，吞吐提升 24% — TheZachMueller · 2026-10-27