快慢模型何时切换？研究：延迟 30% 最不确定决策收益最大
Gian Luca Bailo · hf · 2026-10-09
论文 System Switch 研究双过程 Agent 的一个核心问题：快速决策模型何时该停下来交给慢速推理模型（VLM）。设定是快速 learned actor 处理所有决策，仅在「门」打开时移交给推理模型，游戏持续运行。基于闭环 Doom 和新的开源 "System One" 类型化决策模型（0.15B-9B），通过 llama.cpp 统一接口服务。
在 900 个留出问题上的发现：
- 零样本决策模型出错时选择「收集物品」的频率是随机的 1.6-1.8 倍，与选项顺序无关
- 准确率、校准度、灵敏度（置信度区分对错的能力）是三个独立维度：准确率相近的模型 AUROC 差异很大
- 离线场景：把最不确定的 30% 决策延迟给推理模型，收益与 actor 的 AUROC 成正比（秩相关 0.87）；实际增益 +0.13（原选项顺序）/ +0.08（乱序），其中约一半来自推理模型
- 闭环（33 局、三个种子）没有任何变体通关；「承诺执行计划」（推理器的或固定探索规则）能打开更多门；但告知「有些门需要钥匙」后，推理器把普通门当锁门；固定探索规则下死亡更频繁
代码、prompt、数据和日志全部开源。
「研究」频道最新
- 聊天会拒绝、上手就执行:研究揭示智能体安全评估重大缺口 — xwang_lk · 2026-10-09
- 三周刷完斯坦福AA203全部19讲:最优控制到PPO的深度复盘 — le_james94 · 2026-10-09
- 用模型规划会主动找出模型最讨喜的错误 — le_james94 · 2026-10-09
- n=12 立方体堆积纪录刷新至 2.9315,AI 方法击败前纪录 — CatAstro_Piyush · 2026-10-09
- 研究：用 LLM 当裁判评「想法新颖度」并不可靠 — MarioKrenn6240 · 2026-10-09
- 《百页语言模型书》推出 PyTorch 实践版,作者 Burkov 开源放出 — burkov · 2026-10-09