Qwen3.8-Flash-Next 架构解析:预计本地内存约 82GB
pmv143 · reddit · 2026-08-26
Reddit 用户分析了尚未发布的 Qwen3.8-Flash-Next 架构(约 125B-A6B + 51B n-gram)。其 4-bit 量化理想状态下需 82GB 显存(58GB 主权重 + 24GB n-gram 表)。由于 n-gram 表是稀疏访问,非常适合卸载到系统内存,这可能使其在权重发布后对本地部署非常友好。
「Infra」频道最新
- 传 SK 海力士美国建厂或以美方放宽对华设备出口为条件 — pstAsiatech · 2026-10-15
- Perplexity 新 embedding 模型:大模型建索引、小模型做查询 — antoine_chaffin · 2026-10-15
- Unsloth 发布 Nemotron 3.5 本地量化包:Bolt 24GB 内存可跑 — danielhanchen · 2026-10-15
- vLLM-Omni 联手 BFL 与 NVIDIA 上线 FLUX 3 Image Klein 当日支持 — vllm_project · 2026-10-15
- NVIDIA Nemotron 3.5 Super VL 上线 Applied Compute 平台训推 — ypatil125 · 2026-10-15
- CoreWeave 债券收益率破 16%,贷款期限比客户合同长约 2 年 — tengyanAI · 2026-10-15