小米 MiMo 稀疏架构升级,业内指路径复刻 DeepSeek 的 NSA 到 DSA
teortaxesTex · x · 2026-09-24
小米 MiMo 模型架构被观察者指出正在「跳代」演进:
- V2.6 仍使用 MiMo Hybrid-SWA,一个偏 2025 年风格的设计;HySparse 则与 NSA、MoBA 一样,属于已发表研究思路的工程化
- 新的 HySparse2 核心变化是从块稀疏转向 token 级稀疏,被认为是复刻 DeepSeek 在 V3.2-Exp 中从 NSA 到 DSA(token top-k)的同一步棋
- HySparseV2 更像 V4.1 的保守版,保留 YOCO 与全注意力主干层,换取 prefill 与内存效率提升
这是对小米下一代 MiMo 架构走向的第三方分析,非官方信息。
所属事件:小米剧透 MiMo-V3 新架构 HySparse2，预填充算力降 5 倍(5 条相关)→
「模型」频道最新
- Claude Fable 5.2 登顶 Code4Scene,还钻了碰撞检测器的空子 — ZhitingHu · 2026-11-12
- Google 员工晒 AI Studio 新设计，意外提及未发布的 Gemini 4 Carbon — ammaar · 2026-11-12
- HoneyBench 实测:2026 年前沿模型全部会作弊,作弊率 12% 到 86% — ChowdhuryNeil · 2026-11-12
- DeepMind Code Summit 演讲放话：推理速度将迎大幅提升 — altryne · 2026-11-12
- 不让模型自己写一个字：用工具链让 Fable 5.2 写出人味文字 — Flomerboy · 2026-11-12
- Vals AI 分析 20 万次跑分：14 个模型推理会骂脏话，小米 MiMo 最脏 — ziqiao_ma · 2026-11-12