Qwen 模型藏「中国云专家」：MoE 专家 E506 专管阿里云概念

builderjaydub · x · 2026-10-27

有研究者在 Qwen 3.8 Flash Next 中发现一个专门的 MoE 专家：第 45 层的 E506 对「中国云」概念有高度特化响应——路由器在中文云文本上会给它分配 21-22% 的 token，而在 AWS、Azure/GCP、阿里公司本身、普通中文、英文科技文本等对照组上分配为 0%。通过该层的 51 个神经元中有 23 个位于 E506。

这也解释了社区已知的现象：Qwen-flash-next 在 agent 场景下会幻觉出阿里云 URL，Reddit 上甚至有人专门做了拦截这类工具调用的插件。此前消融 2 个神经元无效，是因为 E506 的 600 多个神经元及其他层携带同样信息。