vLLM 首日原生支持 Kimi K3 与 AMD 生态

vLLM 团队宣布为月之暗面开源的 Kimi K3 模型提供高效的 Day-0 支持。Kimi K3 是一个拥有 2.8 万亿参数的混合专家模型,具备 100 万 token 的上下文能力。得益于原生支持 vLLM 和 AMD ROCm 生态,开发团队可以直接在 AMD Instinct 系列硬件上开箱部署该超大参数模型,大幅降低了底层部署门槛。

2026-07-30 ~ 2026-07-30 · 3 条相关

另有 1 条近重复转述:vllm_project