Kimi K3接入SGLang实现423 tok/s高吞吐

Kimi K3模型近日在SGLang上实现Day-0支持，并在GSM8K基准测试中达到423 tok/s的高速度。这一性能提升得益于Radixark团队使用SpecForge训练的DSPark推测模型，该草稿模型有效优化了基础模型的解码过程，大幅提升了系统的整体推理吞吐量。

2026-07-28 ~ 2026-07-28 · 4 条相关

• Kimi K3 接入 SGLang，首日跑到 423 tok/s — ying11231 · 2026-07-28
• SGLang 为 Kimi K3 上线 day-0 支持并称达 423 tok/s — BanghuaZ · 2026-07-28
• Kimi K3 经 DSpark 调优后解码吞吐升至 423 tok/s — ying11231 · 2026-07-28
• SGLang 首发支持 Kimi K3，推理速度飙至 423 tok/s — ying11231 · 2026-07-28