vLLM v0.28.0 发布:270 位贡献者带来 584 项提交
vLLM v0.28.0 正式发布,本周期包含 584 项提交,来自 270 位贡献者(其中 76 位新人)。核心更新包括针对 Kimi-K3 的全栈优化——自适应推测 Token 预算使 E2E TTFT 提升 5565%,可选共享专家分流;DeepSeek 相关改进;E/P/D 图像预处理去重并迁移至 GPU;Rust 前端新增独立渲染器与 gRPC 支持,并强化量化支持。
2026-08-27 ~ 2026-08-27 · 3 条相关
- vLLM v0.28.0 发布:270 人贡献 584 项提交 — vllm_project · 2026-08-27
- vLLM 0.28.0 性能详情:Kimi-K3 优化与硬适配 — vllm_project · 2026-08-27
- vLLM 0.28.0 升级指南:Rust 前端与量化支持 — vllm_project · 2026-08-27