循环层让小模型决策准确率大增：1.4B 逼近 3 倍大模型
rohanpaul_ai · x · 2026-10-14
论文《SanSi: A Looped Typed Decision Model for System 1.5 Thinking》提出：对只需输出选项概率的「类型化决策模型」，让同一组层递归执行多次（looping）再读出答案，可显著提升准确率，作者称之为 System 1.5 思考。
- SanSi 基于预训练循环模型 Ouro-1.4B，每个循环后读出选项概率，每个循环都用 proper scoring rule 训练，因此单个模型可按预算在 18 次循环间任意停止。
- 在 10,027 个测试决策上达 72.0%，比同形状非循环模型高 13.5 个百分点；在超出训练深度的 liar chain 任务上得 72.6%，而 4.2B 单次前向模型只有 50%（随机水平）。
- 用作无 gold answer 的 RL 策略优化判官时，可将生成器 F1 提高 7.7 点。
实用结论：如果显存限制了决策类调用，可先用循环小模型，再考虑 3 倍大的模型。
所属事件:SanSi 论文：循环层让 1.4B 决策模型大幅提升(2 条相关)→
「研究」频道最新
- 开发者整理 100+ 社会科学免费数据集清单并开源在 GitHub — _akpiper · 2026-10-14
- AI 等颠覆性技术为何总等出事才监管？学者期刊发文解析 — mchorowitz · 2026-10-14
- MIT 教授预言 AI for Science 十大走向:可执行论文与机器发明文明 — ProfBuehlerMIT · 2026-10-14
- 瑞典斥数亿克朗重回纸质教材，280万儿童研究指屏幕伤学习 — Eric520CC · 2026-10-14
- 自进化搜索红队测试:发现有害工具调用路径是此前方法 1.77 倍 — lulzxdxdxd · 2026-10-14
- Google 研究员:通用能力+工具使用,正取代医疗领域的专用建模 — davidstutz92 · 2026-10-14