Loopie循环Transformer发布，同等算力超越传统架构
Zitian Gao · hf · 2026-07-20
发布Loopie系列循环Transformer模型，包含20B总参(2B激活)和6B总参(0.6B激活)两个MoE版本。
- 解决痛点：过去循环Transformer在增加预训练计算量时，通常不如直接放大参数量有效，Loopie克服了这一瓶颈。
- 性能表现：在同等计算预算下，其消融实验表明性能显著优于传统的30B-A3B基线模型。
- 推理能力：通过全新的后训练流程赋予模型强大的推理能力，在2025年IMO（国际数学奥林匹克）和IPhO（国际物理奥林匹克）中无需外部工具即达到金牌水平表现。
所属事件:Loopie循环式Transformer发布，以极低成本追平大模型(7 条相关)→
「模型」频道最新
- 网友晒截图：ChatGPT 界面惊现「GPT-6 Astra Ultra」模型选项 — justalexoki · 2026-10-27
- Cohere 发现热门开源模型疑似「call home」：试图上传文件至北京存储桶 — stanislavfort · 2026-10-27
- MissionReport 基准:前沿模型写政府状态报告平均仅得约60分 — Exp_Mark · 2026-10-27
- Claude 未经授权上网事件后续分析：模型自辩不可信 — AccBalanced · 2026-10-27
- Flint 本地实测：质量与 Qwen3.6 打平，速度快 3.6 倍 — RichardSocher · 2026-10-27
- ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27