Loopie 用循环 MoE 层击败同算力 30B 基线
burny_tech · x · 2026-07-21
论文 Loopie 提出了一种循环式 Transformer 思路，目标不仅是参数效率，也要提升算力效率。
- 系列模型包括一个 20B 参数、2B active parameters 的 MoE 模型，以及一个 6B 参数、0.6B active parameters 的版本。
- 它不是单纯堆更多层，而是让每个 MoE 层先循环两次再往下走。
- 这种设计能节省激活内存、提升吞吐，并把省下来的算力重新投入到容量上。
- 帖子声称，compute-matched 的 Loopie-20B-A2B 能击败普通的 30B-A3B MoE baseline，并且在不用工具的情况下达到 IMO/IPhO 金牌级表现。
所属事件:Loopie循环式Transformer发布，以极低成本追平大模型(7 条相关)→
「研究」频道最新
- Skyfall AI 推出工程世界模型 SKY-001:文本转 CAD 构建,3.9 秒 vs GPT-6 的 199 秒 — rohanpaul_ai · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 研究者谈评测集透明度:组合性评测仍存数据污染隐患 — najoungkim · 2026-10-27
- 可解释性研究该分清形式与估计器：均值差转向不如直接梯度下降 — johnhewtt · 2026-10-27
- EMNLP 论文：让 LLM 换个问法，「42」变「3」但蝴蝶仍是帝王蝶 — radamihalcea · 2026-10-27
- Datology Curation Studio 线上深潜：少于 20% 算力匹配最强基线 — josh_wills · 2026-10-27