SGLang 发布当日即支持 Kimi K3.1,开箱即用 megakernel
BanghuaZ · x · 2026-11-06
SemiAnalysis 祝贺 SGLang 团队(sglproject / RadixArk)在 Kimi K3.1 发布首日即完成高性能支持:
- Day-0 支持:Kimi K3.1 发布当天即可用 SGLang 高效服务
- megakernel 开箱即用:团队默认内置了 megakernel 支持
- 配图展示了 Kimi K3.1 Pro 的 Agentic 场景每美元 Token 总量(TCO)与 P90 交互性对比曲线,覆盖 GB200/GB300 NV72、B200/B300、MI355X 等多种 GPU 配置
对需要第一时间部署新开源模型的服务方来说,Day-0 推理支持已成为推理栈竞争的关键指标。
所属事件:vLLM 与 SGLang 双栈为 Kimi K3.1 提供 Day-0 支持(10 条相关)→
「Infra」频道最新
- 注意力内核遇上真实模型：可解释性与系统研究的交集 — QuentinAnthon15 · 2026-11-06
- MoE 预训练 All-to-All 通信占训练步 60%,新方法削减 58% 分发行 — QuentinAnthon15 · 2026-11-06
- 得州数据中心法案真相:已获批项目照建,新项目只需更严消费者保护 — VraserX · 2026-11-06
- 为承载上千 AI agent,GitHub 重构 Git 存储架构 — arpit_bhayani · 2026-11-06
- OpenAI 自研 Pando 应对 Codex 并发：Git 推送延迟降 5 倍日传 1PB — sven_ai · 2026-11-06
- AI 泡沫之辩:流动性告急,有人断言 OpenAI 与 Anthropic 也难幸免 — teortaxesTex · 2026-11-06