vLLM 实现 Mistral Large 4 Day-0 支持，覆盖 Blackwell
vLLM Blog · rss · 2026-10-29
vLLM 博客宣布对 Mistral Large 4 提供 Day-0 支持，具体包括：稀疏 MLA 注意力、跨层 KV 共享、DSpark 推测解码、DCP/PCP 长上下文方案，以及在 NVIDIA Blackwell 上的 NIXL P/D（prefill/decode 分离）部署。想在发布当天自行部署该 1T 开源模型的用户可直接用 vLLM 跑起来。
「Infra」频道最新
- Wafer 日处理 token 达 2 万亿，从 1 万亿翻倍仅用 4 天 — ycombinator · 2026-10-30
- Databricks 副总裁:Claude Code 只是开始,AI 软件工厂需新基建 — FinanceYF5 · 2026-10-30
- IBM/康奈尔 LPT:跨循环共享 KV 缓存,内存省 79% 困惑度反降 — burny_tech · 2026-10-30
- Rust 自托管 Git 平台让编码 Agent 拥有独立账号与最小权限令牌 — Barmazoid · 2026-10-30
- 8GB 笔记本 RTX 4070 跑 WanGP,19 秒视频渲染要 43 小时 — Pnarpok · 2026-10-30
- vLLM 联手 SkyRL 实现 Mistral Large 4 Day-0 强化学习，8 节点 GB200 上 AIME 从 64% 提到 75% — vllm_project · 2026-10-30