ARLoop 开源全流程 Looped LM,1.2B 胜过 Huginn-3.5B 与 Qwen3.5-2B
burny_tech · x · 2026-11-10
ARLoop 系列是完全开源的预训练 looped transformer,采用 Attention Residuals 架构。最强的 ARLoop-1.2B 在常识推理、数学和编程评测上同时超过此前完全开源的 looped 模型 Huginn-3.5B 和 Qwen3.5-2B Base。
团队强调 looped LLM 近期升温、开源权重已有但训练配方难寻,因此本次发布了完整配方:数据准备、训练流程、中间 checkpoint 到评测代码全部公开。
所属事件:ARLoop 全开源循环 Transformer：1.2B 胜 Huginn-3.5B(5 条相关)→
「研究」频道最新
- CoRL 联合主席忆 2021 展区仅三张桌，对比 2026 规模感概行业巨变 — Ed__Johns · 2026-11-12
- 预训练原子模型筛选 1620 种组合，为单原子金属找稳定衬底 — bravo_abad · 2026-11-12
- Claude Fable 5.2 机器人实验被拿去吊打李飞飞 World Labs?作者称搞错了研究问题 — dotey · 2026-11-12
- Claude 数周产出 239 个形式化证明,验证 123 个开源库无崩溃 — kieranklaassen · 2026-11-12
- SynthICL：纯合成数据训练，单演示泛化 16 项真实操作任务 — Ed__Johns · 2026-11-12
- AI Agent 不跑模型直接改权重,1024 个数字让 MATH-500 从 7.4% 升至 37.4% — VictorSanh · 2026-11-12