Loopie 用循环 MoE 层击败同算力 30B 基线
burny_tech · x · 2026-07-21
论文 Loopie 提出了一种循环式 Transformer 思路，目标不仅是参数效率，也要提升算力效率。
- 系列模型包括一个 20B 参数、2B active parameters 的 MoE 模型，以及一个 6B 参数、0.6B active parameters 的版本。
- 它不是单纯堆更多层，而是让每个 MoE 层先循环两次再往下走。
- 这种设计能节省激活内存、提升吞吐，并把省下来的算力重新投入到容量上。
- 帖子声称，compute-matched 的 Loopie-20B-A2B 能击败普通的 30B-A3B MoE baseline，并且在不用工具的情况下达到 IMO/IPhO 金牌级表现。
所属事件:Loopie循环Transformer发布，同算力击败30B基线(6 条相关)→
「研究」频道最新
- 低秩二次优化论文称可用常数采样近似百万变量问题 — fpedregosa · 2026-07-21
- LFM2 扩容 tokenizer 后，泰语 token 减少 4 倍 — maximelabonne · 2026-07-21
- Argus 用协同可见性与几何 Transformer 提升室内 3D 重建 — ducha_aiki · 2026-07-21
- WAIC 机器人正进入可商业化成功率阶段 — chris_j_paxton · 2026-07-21
- Unitree 用自家 G1 集群上线真实机器人远程评测 — chris_j_paxton · 2026-07-21
- 给 VLM 加顺序元数据后，错误检测会崩掉 — m_wulfmeier · 2026-07-21