SanSi 论文：循环层让 1.4B 决策模型提升 13.5 个百分点
rohanpaul_ai · x · 2026-10-14
arXiv 论文《SanSi: A Looped Typed Decision Model for System 1.5 Thinking》（Gan、Lee、Kang，43 页）研究介于单次前向与生成式推理之间的方案：将预训练循环语言模型改造为类型化决策模型，同一组层递归执行数次后再读出选项概率。
- 每次循环都训练可作答，一个模型即可覆盖 18 次循环的任意算力预算。
- 在来自 59 个来源的 10,027 个测试决策上达 72.0%：比同形状非循环模型高 13.5 点，比更新的同尺寸非循环模型高 5.3 点，仅比 3 倍参数量的模型低 1.8 点。
- 在两个深度控制任务上，循环能外推到训练中未见的深度，而更大的单次前向模型直接失败。
- 作为无 gold answer 的策略优化判官，可将生成器 F1 提高 7.7 点。
所属事件:SanSi 论文：循环层让 1.4B 决策模型大幅提升(2 条相关)→
「研究」频道最新
- Spork 后训练配方让国际象棋解题率较 GRPO 提升 100% — aidenybai · 2026-10-14
- Dyna-2 深谈:百万小时人类视频训练的世界-动作模型与机器人长时自主 — Latent Space · 2026-10-14
- Procedural Core:100 万参数小模型帮 8500 万参数 ViT 提升 ImageNet 2.2 个点 — kastnerkyle · 2026-10-14
- Natura-1 机器人基础模型发布:500 亿参数 MoE,预训练百万小时人类第一视角视频 — rohanpaul_ai · 2026-10-14
- PR-OPD 用隐层自蒸馏做 Agent 强化学习,WebShop 准确率最高提升 14 分 — Muyang Li · 2026-10-14
- 研究验证：推理中间痕迹是否真的影响最终答案 — burkov · 2026-10-14