SGLang更新：支持Kimi K3与本地视频生成
ying11231 · x · 2026-08-11
SGLang 发布 v0.5.17 版本，带来多项重要更新：
- 新模型支持：整合 Kimi K3，优化了前缀缓存和推测解码，支持 100 万上下文，并提供 NVIDIA 与 AMD GPU 的运行方案。新增 MiniMax-H3 视频音频生成模型，可在双卡 RTX 5090 上本地生成 24fps 短片。
- 性能优化：前端服务器初步使用 Rust 重写；MoE 预填速度提升 1.92 倍。
- 本地 AI 追踪：新增“Local AI”板块，持续追踪 SM120、DGX Spark、Apple MLX 等平台的端侧部署进展。
所属事件:SGLang v0.5.17 发布支持 Kimi K3 等新模型(2 条相关)→
「Infra」频道最新
- 曝微软计划“大幅”增产下一代自研 AI 芯片 — thoefler · 2026-08-11
- fal 签下 3 家生成式 AI 大厂，正扩充 H200 与 B300 算力 — gorkem · 2026-08-11
- Alphabet 拟发债融资 250 亿美元，重金押注 AI 算力基建 — Beth_Kindig · 2026-08-11
- 英伟达拟联手金融机构融资5000亿美元，加码AI芯片与数据中心 — Polymarket · 2026-08-11
- 修复 Intel Arc 显存异常：开发者推出 ComfyUI 稳定性补丁 — Valuable-Subject-274 · 2026-08-11
- 新研究提出 Oz-FP4：在 FP4 算力上模拟 FP64 高精度矩阵乘法 — teortaxesTex · 2026-08-11