vLLM 首日支持腾讯混元 Hy4 Flash,附 8 卡 H200 部署配方

vllm_project · x · 2026-11-18

vLLM 宣布对腾讯混元 Hy4 Flash 提供首日(Day-0)支持。该模型总参数 220B(含 64B Engram 嵌入)、每 token 激活 12B,支持 1M 上下文与多模态理解,面向日常生产力与 agent 工作流。

架构要点:42 层解码器采用混合滑窗+压缩稀疏注意力,配 Latent MoE、Engram 嵌入与五层 DFly 投机解码头(默认开启)。部署方式:

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →