vLLM v0.28.0 发布:270 人贡献 584 项提交
vllm_project · x · 2026-08-27
vLLM v0.28.0 正式发布,本周期共 584 项提交、来自 270 位贡献者(76 位新人)。
核心亮点:
- 针对 Kimi-K3 的全栈优化
- DeepSeek-V4 稀疏 MLA 在普通解码、MTP 和 DSpark 场景下端到端可用
- 投机解码新增 DFlash2 和 DSpark 置信度调度验证
- Model Runner V2 支持 E/P/D 分离部署与权重卸载
- 分层 KV 卸载新增磁盘层与树外二级层
- 新模型支持:Muse Glimmer、Ling 3.0 Flash、Dots3 NOTE、Interns2mobius
官方随后以线程形式详细展开了性能、硬件与升级注意事项。
所属事件:vLLM v0.28.0 发布:270 位贡献者带来 584 项提交(3 条相关)→
「Infra」频道最新
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线,端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15
- 实测 Apple Silicon GEMM 性能:M6 矩阵单元 fp8 达 fp16 两倍,M5 不支持 — Brilliant-Hall1387 · 2026-10-15