斯坦福等揭示「思考惯性」:LLM 被要求不思考时仍会偷偷推理
StanfordUniversity · hf · 2026-10-13
清华、牛津、斯坦福团队研究 LLM 的 no-thinking 行为,发现「思考惯性(Thinking Inertia)」现象。
- 测量难题:以往用关闭思考模式或轨迹长短做代理指标不可靠——关闭模式仍可能输出推理,长轨迹也可能是填充文本。论文将响应拆为答案前轨迹与最终答案,提出三层指标:空思考率(Empty-Thinking Rate)、问题-答案前轨迹相关性、LLM 评审的显式推理率。
- 实验:在 6 个 LLM、6 种提示干预、三类问题(布尔/选择题/开放题)上评测。
- 核心发现:显式的 no-think 控制无法可靠消除可见推理;答案空间越开放,显式推理越顽固。布尔与选择题上准确率保持稳定,开放题上则出现「只给答案的服从度」与准确率的权衡;提供候选答案会让模型更容易做到只答不思。
- 结论:「停止思考」不能仅靠模型设置或指令假定,应与推理能力一样接受系统评测。
「研究」频道最新
- 牛津研究：可在模型权重里加密隐藏任意能力，微调 500 步仍不解密 — zainhas · 2026-10-13
- 小鹏发布4B grounding基础模型GroundingPI,34项基准超GPT-6 Astra — XPENG-AI · 2026-10-13
- 小鹏再推GroundAnything:扩散式并行解码,自推测加速4.51倍 — XPENG-AI · 2026-10-13
- RL 泛化真的差吗：预训练广度或让 AI 泛化强于人类 — yacineMTB · 2026-10-13
- Natura-1 发布：500 亿参数 MoE，百万小时人类视频练灵巧手 — stingning · 2026-10-13
- 高中生用 USB 线串联两台旧安卓手机，本地跑 27B 模型仅 30°C — Grouchy-Zebra9780 · 2026-10-13