vLLM首发支持通义Qwen3.8 2.4T大模型

vLLM项目宣布对阿里巴巴最新发布的超大规模开源模型Qwen3.8-2.4T-A95B实现Day-0支持。该模型总参数量高达2.4万亿，激活参数为950亿，包含512个专家。通过提供开箱即用的4-bit量化，vLLM使得这一巨量模型能够在单节点上高效运行。

2026-08-13 ~ 2026-08-13 · 2 条相关

• vLLM 首日支持 Qwen3.8 2.4T 模型，提供开箱即用 4-bit 量化 — vllm_project · 2026-08-13
• vLLM首发支持通义Qwen3.8 2.4T大模型，单节点即可跑 — vllm_project · 2026-08-13