Qwen3.8-Flash-Next 技术解构:GDN+QSA 混合注意力,显存占用降低 23.5GB
ying11231 · x · 2026-08-27
Qwen3.8-Flash-Next (Qwen4 架构预览) 发布,125B MoE (6B 激活),由 SGLang 提供首发支持。架构创新:采用 36 层 Gated DeltaNet + 12 层 Qwen Sparse Attention 的混合架构,兼顾长上下文计算效率与检索精度;使用 51B N-gram embeddings,通过 host offloading 将显存占用降低 23.5 GiB (TP4),KV 容量提升 78.5%。性能优化:在 NVIDIA B200 上达到 540 tok/s 解码速度;HyperConnection Kernels 带来 2.05x 内核加速与 7.6% 端到端提升。合作:由阿里巴巴 Qwen、NVIDIA、AMD 及 RadixArk 共同优化,提供了 NVFP4 量化版本。
所属事件:阿里开源Qwen3.8-Flash-Next:Qwen4架构预览,6B激活参数引热议(26 条相关)→
「Infra」频道最新
- SGLang Day-0 支持 FLUX 3 Image Klein:单图 10 参考图,BF16/FP8/NVFP4 多精度 — ying11231 · 2026-10-16
- 英伟达 Nemotron 3.5 Super VL 上线 CoreWeave:12B 激活参数多模态 MoE,输入仅 $0.25/百万 tokens — wandb · 2026-10-16
- 2026 晶圆厂设备支出上调至 1530 亿美元,设备周期被拉长 — BenBajarin · 2026-10-16
- Steam 更新实测 5.23 秒启动反超 Epic,网友调侃 vLLM 该加入「启动时间大战」 — AlpinDale · 2026-10-16
- Shadeform 预告下周一发布六项新功能:降 GPU 成本、扩算力来源 — _jaydeepkarale · 2026-10-16
- Fastino 推出后训练 API:兼容 Tinker SDK,成本降 25%-85% — kalyan_kpl · 2026-10-16