Qwen 38B 专家剖析：半数专家几乎闲置，仅 64 个承载半算力
EyalToledano · x · 2026-08-27
- 实验方法：作者使用约 70 万 token 的 Claude 代码会话追踪数据，在 4-bit 量化下通过 M4 Max 推理 Qwen3.8-flash-next，记录路由器对每个专家的依赖程度。
- 关键发现：在中位数层，512 个专家中仅 64 个承担了 50% 的路由权重，256 个承担了 91%。这意味着模型中有一半的专家是“乘客”，未被有效利用。
- 工程推论：剪枝专家虽不能直接加速解码，但能显著降低显存（VRAM）占用。作者正探讨调整 top-k 路由策略（如减少活跃专家数提速或增加以提升推理能力）。
所属事件:实测 Qwen3.8 专家分布 半数专家几乎闲置(2 条相关)→
「Infra」频道最新
- 微软深度优化 Windows 迎接 Nvidia RTX Spark：两步装好本地 AI agent — tomwarren · 2026-10-15
- 微软联手Nvidia优化Windows,为RTX Spark Arm笔记本铺路 — The Verge AI · 2026-10-15
- 全球智能手机出货量暴跌 22%,创史上最大季度跌幅,元凶是 AI 抢内存 — Polymarket · 2026-10-15
- SK 海力士再跌 11%:已低于 2027 财年预期利润 3 倍市盈率 — JOBhakdi · 2026-10-15
- ASML 高管:「我们在欧洲一台光刻机都卖不出去」 — NinaDSchick · 2026-10-15
- Nvidia 将 SPCX 归入「超大规模」类，云厂商依赖度暗藏变数 — RihardJarc · 2026-10-15