是 token 选专家还是专家选 token？Andrew Carr 重提 MoE 路由之争
andrew_n_carr · x · 2026-11-07
Andrew Carr 提出探讨 MoE（混合专家）架构的根本问题：究竟是 token 主动选择专家，还是专家竞争吸引 token。这一路由机制的视角之争直接影响对 MoE 稀疏激活、负载均衡与专家分工本质的理解。
「研究」频道最新
- 19 岁生物医学博士 Tanishq Abraham 谈 Sophont 癌症研究模型 Holon-S1 — iScienceLuvr · 2026-11-07
- Anthropic 研究：AI 可承担科研 27-52% 工作时间，中位数 38% — emollick · 2026-11-07
- ICLR 2027 审稿提「附录」比例飙至 29%，疑 AI 代写涌现 — nsaphra · 2026-11-07
- LLM 直接改权重:仅动 2048 个参数,机器人任务成功率 68% 升至 88% — zhaoran_wang · 2026-11-07
- GTEx MCP Server：让 AI 助手查询 54 种人体组织基因表达数据 — modelcontextprotocol · 2026-11-07
- 斯坦福教授 Anshul Kundaje：ML 会议同行评审体系已无法修复 — anshulkundaje · 2026-11-07