Qwen3.8-2.4T-A95B部署指南：NVFP4需8×B300，TP必须整除64
Necessary_Gazelle211 · reddit · 2026-08-15
Reddit用户NecessaryGazelle211研究了Qwen3.8-2.4T-A95B的实际部署配置。模型总参数2.4T，激活参数约95B，512个路由专家。NVFP4量化权重约1.32 TiB，实际需约1.74 TB，对应8×B300或16×H200；FP8更重，需16×B300或32×H200。注意张量并行必须整除64（注意力头数），因此TP12不可用。vLLM推荐MTP投机解码，可提升2.3倍输出速率。完整配置见博客。
「Infra」频道最新
- 英伟达 Rubin 数据中心毛利率将升至 78% — Beth_Kindig · 2026-08-15
- Infobip 推出加拿大数据驻留，切入双轨合规市场 — shashib · 2026-08-15
- NVMe 固态硬盘价格翻倍，算力基础设施成本飙升 — docmilanfar · 2026-08-15
- 论文：Mac上投机解码多数配置比普通解码更慢，最佳仅1.61x — juanviera23 · 2026-08-15
- SpaceX与Nvidia合作设计轨道数据中心，首颗卫星明年发射 — JOBhakdi · 2026-08-15
- Qdrant+Minima 在单块 RTX PRO 6000 上实现 agentic RAG 效率提升 2.92 倍 — qdrant_engine · 2026-08-15