vLLM Day-0 支持 Muse Spark Open:816B MoE、1M 上下文、多模态
vLLM Blog · rss · 2026-10-15
vLLM 宣布对 Muse Spark Open 的 Day-0 支持。关键规格与特性:
- 816B MoE 架构
- 1M 上下文窗口
- 多模态输入
- DSpark 投机解码(speculative decoding)
- 支持 NVIDIA 与 AMD 推理服务,并有初步 TPU 支持
- 支持 LoRA RL
对需要自托管该模型的人来说,vLLM 首日即覆盖多种硬件路线。
「Infra」频道最新
- OpenJet 引擎宣称 Qwen3.8-27B 推理速度达 llama.cpp 1.9 倍 — JeremyCMorgan · 2026-10-23
- 黄仁勋拆解 NVIDIA Vera Rubin 智能体系统四大组件 — rohanpaul_ai · 2026-10-23
- Transformers.js 一条龙：ONNX 模型直接跑进浏览器 — JosephJacks_ · 2026-10-23
- MiniMax M3.1 Flash 在 0G 平台限时免费 3 天,1M 上下文随便跑 — MiniMax_AI · 2026-10-23
- 「押注 Cloudflare 拿到十亿级规模」：R2 与 D1 的老兵回忆杀 — dinasaur_404 · 2026-10-23
- 公开数据日渐枯竭，私有数据交易正在变成目录式电商 — SucceededMind · 2026-10-23