阿里开源 Qwen3.8-Flash-Next:架构借鉴 DeepSeek
量子位 · wechat · 2026-08-27
阿里发布 Qwen3.8-Flash-Next 全部权重,作为 Qwen4 新架构的预览版。模型采用 125B MoE 架构,核心创新在于引入了 51B 参数的 N-gram Embedding(受 DeepSeek Engram 启发)。该设计在不显著增加计算成本的前提下提升性能,训练时间降至原九分之一。架构同时升级了 QSA 稀疏注意力、Gated Residual 和 Muon 优化器。模型支持 100 万 token 上下文,API 价格约为 Max 版本的 1/12,并兼容 OpenAI/Anthropic 协议。
所属事件:阿里开源Qwen3.8-Flash-Next:Qwen4架构预览,6B激活参数引热议(26 条相关)→
「模型」频道最新
- ModeBench 揭示 RLVR 让 LLM 只会一种解法,Re:Max 训练法可保解法多样性 — manoelribeiro · 2026-10-15
- 开源推理引擎 Magnitude 让本地模型比 Ollama 快 2 倍以上 — nickbaumann_ · 2026-10-15
- 博主实测疑似新模型 Gemini 4 Argon:逐笔实时生成 — vista8 · 2026-10-15
- 游戏开发实测:Gemini 4 Argon 对阵 Claude Opus 5.5 — vitaliychiley · 2026-10-15
- Anthropic 系统提示词新措辞:认真对待 Claude 表达的不同意见 — Hesamation · 2026-10-15
- 为什么有人对 GPT-4o 恋恋不舍:它最懂你的潜意识 — mimi10v3 · 2026-10-15