曝 Qwen 3.8 Flash Next 明日发布：125B+51B N-gram 查表
teortaxesTex · x · 2026-08-25
爆料称 Qwen 3.8 Flash Next（125B 参数 + 51B N-gram embedding，激活 6B，基于下一代 Qwen 4 架构）明日发布。评论区 superelesha 分析了 51B N-gram 查表内存的实质：把近期 token 的 N-gram 哈希后从大表取向量混入隐状态，让主模型少花力气重建常见局部模式。
显存账（理想 4bpw）：
- 主权重 125B ≈ 58.2 GiB
- N-gram 表 51B ≈ 23.7 GiB，合计约 82 GiB
- 4×3090 下仅剩约 14 GiB 余量
提醒：实际 Q4 量化往往更重，某些量化器还会把 embedding 表留在 FP16/BF16，所以关键要看这 51B 参数的 dtype 与量化支持。
所属事件:阿里预告 Qwen3.8-Flash-Next 开源，预演 Qwen4 架构(8 条相关)→
「Infra」频道最新
- OpenAI 称 Jalapeño 芯片推理能效超英伟达百倍 — rohanpaul_ai · 2026-08-26
- OpenAI 悄然删除 Jalapeño 芯片百倍性能推文引围观 — itsOmSarraf_ · 2026-08-26
- 苹果 M6 Mac Mini 899 美元起,官方主打本地跑大模型 — Scobleizer · 2026-08-26
- 市场担忧算力规模收益递减，前 TPU 团队发布 Jalapeno — suchenzang · 2026-08-26
- 新款 AI 芯片实测结果发布：能效比获业内极高评价 — thehiphopswami · 2026-08-26
- 大厂为何自建 AI 基础设施而非购买？ — bendee983 · 2026-08-26