阿里发布2.4T参数开源模型Qwen3.8-Max
NVIDIAAI · x · 2026-08-13
阿里巴巴发布了其最大的开源权重模型 Qwen3.8-2.4T-A95B(即 Qwen3.8-Max),总参数量达 2.4T,每个 token 激活 95B 参数。
- 架构设计:采用细粒度混合专家架构,结合全注意力与线性注意力机制,支持最高 100 万 token 上下文及 128K 输出,专为高难度推理和智能体任务设计。
- 推理性能:NVIDIA 技术博客指出,在无需额外调优的情况下,该模型可在 NVIDIA GB300 NVL72 上以 FP8 精度实现单 GPU 超过 4K tokens/秒的吞吐量和单用户超 350 tokens/秒的推理速度。
- 基础设施:部署此类万亿参数模型需要数据中心级别的加速计算,NVIDIA 正与开源生态合作提供多节点部署方案。
所属事件:通义千问开源2.4T参数旗舰Qwen3.8-Max(21 条相关)→
「Infra」频道最新
- Nscale 数据中心液冷屡漏半年起火,挪威查出10项安全违规 — saranormous · 2026-10-16
- WSL 3.0 发布:内置原生容器,高频系统调用内核耗时降约 16% — solyarisoftware · 2026-10-16
- 魔改 22GB RTX 2080 Ti 跑本地 LLM,值不值?作者求实测经验 — Dave86ch · 2026-10-16
- Intel 开源低比特量化库 neural-compressor:支持 FP4/MXFP4/NVFP4 — HaihaoShen · 2026-10-16
- 770B 参数压进 214GiB:腾讯混元量化团队拆解 Hy4 Preview 压缩术 — coolmum18 · 2026-10-16
- TokenSpeed MLA 2 适配英伟达 Vera Rubin,解码内核较 B200 提速 3.44 倍 — zhyncs42 · 2026-10-16