Qwen 团队发文解析 Qwen3.8-Next 架构设计
Qwen · hf · 2026-09-01
Qwen 团队发布关于 Qwen3.8-Next 架构设计的文章。Qwen3.8-Flash-Next 采用稀疏混合专家架构,结合了混合门控 Delta-net 和稀疏注意力层、门控残差分支以及加速器外的 n-gram 嵌入,旨在提升效率、能力和训练稳定性。
「模型」频道最新
- Opus 5 易泄露原因猜想:混用新旧训练格式 — Ratter · 2026-09-01
- Opus 训练格式变更:从纯文本到 XML 标签 — Ratter · 2026-09-01
- Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored 登顶 HF — DavidAU · 2026-09-01
- Matrix-Game 3.5:用 Patch Memory 增强实时流式世界模型 — Runjia Qian · 2026-09-01
- 智谱 GLM-5.3 Flash 推出 INT4 与 MXFP4 版本 — HaihaoShen · 2026-09-01
- Qwen 2.5 72B 本地实测:长上下文吞吐跌一半 — julianharris · 2026-09-01