Loopie:更省参数的循环 Transformer
teortaxesTex · x · 2026-07-20
这条是在调侃一篇题为 《Loop the Loopies!》 的论文,但图里给出的实质信息其实是:作者提出了 Loopie,一种循环式 Transformer。
论文声称,在相同训练墙钟时间和匹配的推理算力预算下,Loopie 能击败不带循环结构的对照模型,同时还大约只需要三分之一更少的参数和优化器状态。帖子还指出,这项工作来自北京量化基金 Ubiquant 的 AI 研究部门。
所属事件:Loopie循环式Transformer发布,以极低成本追平大模型(7 条相关)→
「公司和人」频道最新
- OpenClaw 与 Mac Mini 炒作退潮:跟风者花数千美元一无所获 — 0xAllen_ · 2026-10-27
- OpenAI 发布 Signals 数据集:近百国 ChatGPT 职场用法可比对 — soumitrashukla9 · 2026-10-27
- Airbnb CEO Chesky:纯管理者与拒绝改变者将熬不过 AI 时代 — fortune · 2026-10-27
- 可解释性研究者发文呼吁“AI人类基因组计划”,并将加入 Goodfire AI — ninamiolane · 2026-10-27
- AIE Code Summit 2026 开放申请:仅收 800 人,keynote 全程免费直播 — trq212 · 2026-10-27
- 「微软 6 万裁员只是开始」:KOL 预测大厂 1-2 年内再砍 50-60% 员工 — krishnan · 2026-10-27