TMLR 论文:更强推理不等于更充分披露,Agent 思考越多未必告知越全
SharonYixuanLi · x · 2026-10-27
威斯康星大学麦迪逊分校与 William & Mary 团队在 TMLR 发表论文《Thinking Is Not Telling: Information Disclosure in User-Service LLM Agents》,作者含 Jindong Wang、Sharon Li 等。
- 核心问题:服务型 agent 能看到政策、工具结果和环境状态,而用户看不到;用户在做重要决策前需要这些信息,但 agent 的内部推理并不保证及时披露。
- 方法:提出五类信息披露分类法、基于证据的探测手段,以及轮次级反事实干预,分析 agent 沟通了什么、缺失信息如何影响其行动。
- 结论:在 5 个模型、3 个服务场景上,强制 thinking 并不稳定提升任务成功率,更多思考也不必然带来更充分的信息披露;配图示例显示,不带思考的 agent 反而主动提示了「只能取消整个订单而非单件」的关键政策信息。
论文预印本与 arXiv 链接已放出,代码即将开源。
「编程与Agent」频道最新
- Reticle 推出 AI 编码代理验证层:让 agent 自查生成的代码是否真的能跑 — Scobleizer · 2026-10-27
- 信任你的 Agent,但一定要读它的日志 — brada · 2026-10-27
- 开发者正训练「看门模型」:专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27
- 开发者训练 4GB 显存可跑的哨兵模型,专防 prompt 注入与记忆投毒 — gnukeith · 2026-10-27
- AI 编程编辑器 Paradev 获 1150 万美元种子轮,USV 领投 — massimosgrelli · 2026-10-27
- 前大厂管理者观点:把团队换成 agents,优秀管理方法论依然成立 — lxfater · 2026-10-27