LOOM 让循环 MoE 稳定扩展至 9-12 层循环

循环 MoE 架构正受到关注，据报道 GPT-6 将采用，但社区质疑其在同等 FLOPs 下能否胜过标准 MoE，因收益随循环加深迅速饱和，开源方案通常只循环两次。LOOM 诊断出阻碍扩展的两大问题，使 700M 参数模型可稳定运行 5 次乃至 9-12 层循环，困惑度降至 16.54，并在 iso-FLOP 比较中反超标准 MoE。

2026-10-05 ~ 2026-10-05 · 2 条相关

• LOOM 破解循环 MoE 扩展难题:700M 模型 5 循环困惑度降至 16.54 — Intelligent-Systems · 2026-10-05
• LOOM 让循环 MoE 稳定跑到 9-12 层循环，iso-FLOP 反超标准 MoE — SonglinYang4 · 2026-10-05