DeepSeek与Kimi的MoE配置差异
teortaxesTex · x · 2026-07-17
作者更新了对 MoE 路由规模的判断： - 原先以为 DeepSeek 会走 **16 个激活专家 / 大专家池** 的路线。 - 但实际看到的是 **7/384**；而 **Kimi** 则是 **16/896**。 - 这说明“是否要继续扩大 expert granularity”并不是显而易见的结论，业内在这点上仍有不同实现路径。 这条帖子的重点不是单纯夸某个模型，而是指出：**MoE 的专家粒度设计仍在探索中**，不同厂商在激活专家数量和总专家池大小上采取了不同方案。