ThinkJev：先快答再按置信度决定是否深思的自适应推理新思路
RobertTLange · x · 2026-11-07
RobertTLange 提出 ThinkJev：给 Jev 风格的类型化决策模型加入显式推理的简单方法。
工作方式
- System 1：混合思考 LLM 先给出快速直接决策，并从列出的选项 next-token logits 读取概率分布
- 若置信度低于阈值（dev 集上选出的 τ），进入 System 2：生成一条推理 trace，再对同一组选项打分
- 两个答案共享缓存 prompt 前缀，只处理一次；一条采样 trace 可在多个 token 预算点读取答案，一旦置信即停（anytime stop）
配图展示 Qwen3.5-27B 上的示例：System 1 给 B、置信度 0.35 低于阈值触发思考，在 512 token 处即以 0.95 置信选出正确答案 C，仅用 1402 思考 token 中的 512 个；全部 8359 条测试决策的准确率随思考预算上升。
作者对 logits 是否是好的确定性度量持怀疑态度，但认为这一高层思路值得用来探索自适应算力的决策系统。
「研究」频道最新
- 对话轮次间隔仅 200ms:双工语音要在『听』时就把话说好 — smolix · 2026-11-07
- Higgs 实时双工语音为何选 160ms 步长:人类决策的节拍 — smolix · 2026-11-07
- 字节实验显示 Full Bandwidth Transformer 或以一半规模对等两倍大模型 — DimitrisPapail · 2026-11-07
- Ai2 携十余篇论文亮相 CoRL 2026,MolmoAct2 等机器人研究集中展示 — allen_ai · 2026-11-07
- Applied Compute 公开生产环境 RL 配方，让模型在部署中持续学习 — ypatil125 · 2026-11-07
- Anthropic 科学博客：AI 开始接管科学模型的编写、拟合与修订 — AnthropicAI · 2026-11-07