Loopie：更省参数的循环 Transformer
teortaxesTex · x · 2026-07-20
这条是在调侃一篇题为 《Loop the Loopies!》 的论文，但图里给出的实质信息其实是：作者提出了 Loopie，一种循环式 Transformer。
论文声称，在相同训练墙钟时间和匹配的推理算力预算下，Loopie 能击败不带循环结构的对照模型，同时还大约只需要三分之一更少的参数和优化器状态。帖子还指出，这项工作来自北京量化基金 Ubiquant 的 AI 研究部门。
所属事件:Loopie循环式Transformer发布，以极低成本追平大模型(7 条相关)→
「公司和人」频道最新
- 斯坦福 HAI「以人为本 AI 社会影响」项目已办到第三期 — StanfordHAI · 2026-10-27
- Goodfire 投入 1000 万美元启动 AI 版「人类基因组计划」破解可解释性 — CatAstro_Piyush · 2026-10-27
- 旧金山 Code Engineering 大会聚焦从编码 agent 到软件工厂 — LangChain · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27
- Anthropic 正式公开 IPO 申请文件，华尔街见闻逐条拆解 — KateClarkTweets · 2026-10-27
- OpenAI 基金会资助 UNC 肿瘤抗原研究，招聘资深实验科学家 — iskander · 2026-10-27