ARLoop 开源循环 Transformer 全套配方，1.2B 胜过 Huginn-3.5B
Lianhuiq · x · 2026-11-11
ARLoop 团队发布一系列完全开源的预训练循环 Transformer（Looped Transformers），采用 Attention Residuals 架构，并公开完整训练配方。
- 最强模型 ARLoop-1.2B 在常识推理、数学和编程评测上，同时超过此前最强的全开源循环 LLM Huginn-3.5B 和 Qwen3.5-2B Base
- 开源内容覆盖全流程：数据准备、模型训练、中间 checkpoint 与评测代码
- 团队指出循环 LLM 热度上升、开源权重渐多，但训练配方一直难觅，这正是本工作的填补点
所属事件:ARLoop 全开源循环 Transformer：1.2B 胜 Huginn-3.5B(5 条相关)→
「研究」频道最新
- 教授用纯 NumPy 从零搭建交互式神经网络教学笔记本 — GeostatsGuy · 2026-11-11
- 新 benchmark Continual-ARC:主流 agent 都学不会经验,9B 模型微调可以 — Med1_Ai · 2026-11-11
- Science 子刊：好的对话呈现'粉噪'式的语义波动模式 — _akpiper · 2026-11-11
- 研究：近半数 STEM 博士论文用 AI 写，仅 4.7% 主动披露 — paulnovosad · 2026-11-11
- AlphaGenome 2 商业 API 上 Google Cloud 私测，权重承诺未来开源 — anshulkundaje · 2026-11-11
- 斯坦福 DyCraft:智能体分步生成 4D 动态场景,降低物理错误 — StanfordUniversity · 2026-11-11