Loopie循环Transformer发布，同等算力超越传统架构
Zitian Gao · hf · 2026-07-20
发布Loopie系列循环Transformer模型，包含20B总参(2B激活)和6B总参(0.6B激活)两个MoE版本。
- 解决痛点：过去循环Transformer在增加预训练计算量时，通常不如直接放大参数量有效，Loopie克服了这一瓶颈。
- 性能表现：在同等计算预算下，其消融实验表明性能显著优于传统的30B-A3B基线模型。
- 推理能力：通过全新的后训练流程赋予模型强大的推理能力，在2025年IMO（国际数学奥林匹克）和IPhO（国际物理奥林匹克）中无需外部工具即达到金牌水平表现。
所属事件:Loopie循环式Transformer发布，以极低成本追平大模型(7 条相关)→
「模型」频道最新
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11
- Engram 随机读取不适合 SSD，CPU 内存低延迟共享或成正解 — bookwormengr · 2026-09-11