小米 MiMo 稀疏架构升级,业内指路径复刻 DeepSeek 的 NSA 到 DSA
teortaxesTex · x · 2026-09-24
小米 MiMo 模型架构被观察者指出正在「跳代」演进:
- V2.6 仍使用 MiMo Hybrid-SWA,一个偏 2025 年风格的设计;HySparse 则与 NSA、MoBA 一样,属于已发表研究思路的工程化
- 新的 HySparse2 核心变化是从块稀疏转向 token 级稀疏,被认为是复刻 DeepSeek 在 V3.2-Exp 中从 NSA 到 DSA(token top-k)的同一步棋
- HySparseV2 更像 V4.1 的保守版,保留 YOCO 与全注意力主干层,换取 prefill 与内存效率提升
这是对小米下一代 MiMo 架构走向的第三方分析,非官方信息。
所属事件:小米 MiMo-V3 将换 HySparse2 新架构,预填充算力大降(3 条相关)→
「模型」频道最新
- 网友实测 Opus 用量额度耐用，重置前愣是没用完 — dotey · 2026-09-24
- 深度解析 GPT-6 递归深度传闻:MoE 加递归或成推理新范式 — panic_in_the_galaxy · 2026-09-24
- 不生成文本、号称快 200 倍的决策模型 Jev 引发「格式完美的错误答案算不算幻觉」之辩 — jamesbrooksco · 2026-09-24
- 实测对比:Jev 在准确率、延迟与成本上全面胜过 Gemini Flash — cantrell · 2026-09-24
- 用户因 Opus 5.5 降价留下：吐槽 Anthropic 安全营销双标 — ayushtweetshere · 2026-09-24
- Claude 拒做的步骤 Codex 两度搞定,安全护栏成落地痛点 — ChanceKelch · 2026-09-24