仅 700 万参数:TRM 递归推理模型拿下 ARC-AGI-1 45%
CatAstro_Piyush · x · 2026-09-04
论文《Less is More: Recursive Reasoning with Tiny Networks》提出 Tiny Recursion Model(TRM):一个仅 7M 参数的微型网络,通过递归改进自身答案,在 ARC-AGI-1 达 45%、ARC-AGI-2 达 8%,比肩多数大模型水平。
- 思路源自 HRM(分层推理模型,ARC-AGI 约 40%),但作者认为 HRM 过度依赖「人脑生物学论证」,于是把递归推理简化到本质:无需不动点定理、无需层级结构
- 核心机制:从输入 x 和初始答案 y 出发,最多 K 步迭代——每步先递归更新 n 次隐状态 z,再基于 x、z 改进答案 y
- 模型小到可在单张 GPU 上从零预训练并做权重稀疏化和可解释性分析
作者借此批评当下「只有靠大公司巨资训练的基础模型才能解难题」的思路是个陷阱,主张探索「less is more」的新方向。论文与代码均已公开。
「模型」频道最新
- 循环 Transformer 缩放律:加循环不涨知识,只涨推理 — bookwormengr · 2026-09-04
- OpenAI 发 Astra,网友重读《超级智能》:当年预测 AGI 要到 2075 — dee_hw · 2026-09-04
- 模型盲算行列式仍失败,无思考时间视界约每 9 个月翻倍 — scaling01 · 2026-09-04
- GPT-6 Astra Ultra 9 分钟零样本盖出 Minecraft 木屋,楼梯完美 — Angaisb_ · 2026-09-04
- ARC-AGI 基准饱和不断加速:从 6 年缩到仅 5 个月 — mmmbchang · 2026-09-04
- Sama 就 Astra 故障致歉:按断供天数补偿额度,近期扩大到 API 与订阅用户 — jxnlco · 2026-09-04