MoE 路由器也会“困”
basedjensen · x · 2026-07-17
这条转发用拟人化的方式调侃 MoE/稀疏路由:当 top-k expert 的容量溢出、路由器改选 fallback expert 时,fallback expert 也一副“困困的”样子。 它本质上是一个懂模型结构的人才会觉得好笑的技术梗,信息量不大,但适合做 AI 圈趣事转发。
basedjensen · x · 2026-07-17
这条转发用拟人化的方式调侃 MoE/稀疏路由:当 top-k expert 的容量溢出、路由器改选 fallback expert 时,fallback expert 也一副“困困的”样子。 它本质上是一个懂模型结构的人才会觉得好笑的技术梗,信息量不大,但适合做 AI 圈趣事转发。