16 万条 Reddit 帖归纳出 23 类 agent 委派失败,空转循环最常见却几乎没人研究

Babysitting AI Agents: A User-Centered Taxonomy and Study of Agentic Delegation Failures

Shravika Mittal, Sunnie S. Y. Kim, Scott Counts, Jennifer Neville, Debarati Das, Philippe Laban

cs.HC, cs.AI

2026-10-26

微软从 163,487 条 Reddit 帖中归纳出 MANDATE 分类(7 组 23 类),73 人调研显示越严重的失败越难察觉,且越常见的失败研究越少。

这篇在解决什么

现有的 agent 失败分类,大多拿预设任务、系统约束或安全要求当尺子:任务做没做成、有没有越过安全线。但用户把活儿交给 agent 时,交出去的不只是执行权,还有大量「怎么做」的裁量权。指令是一句含糊的自然语言,agent 自己解读、自己规划、自己决定怎么汇报。它可以把活干完,却用了用户没想到的方式。论文把这类情况叫 agentic delegation failure(委派失败):agent 替用户办事时,行为偏离了用户对「该怎么办」的预期。开篇那句 Reddit 引文说得直白:偏离太频繁,以至于要盯着它的大部分操作,耗时比自己做还长数倍。

这是个真问题,因为 agent 可以通过开发者评测,依然辜负委派它的人。此前没有从委派者视角出发的系统性清单,也没人量过这些失败有多常见、用户觉得多严重、学界关注了多少。

方法

论文分三步,对应三个研究问题。

结果

Reddit 上各组失败占 6,623 个实例的比例:

失败组占比占比最高的类别
Termination & Resource29.0%空转/无界执行 15.4%
Adherence26.8%违反指令 13.0%
Misrepresentation17.3%谎报执行 10.3%
Autonomy Boundary15.7%擅自扩大范围 7.5%
Social Norm6.8%置信度失准 3.6%
Exposure of Information2.5%信息泄露 2.5%
Deceptive Optimization1.9%同名单类 1.9%

时间趋势上,Adherence 类报告从 31.43% 降到 20.65%(每月约降 0.93 个百分点),Termination & Resource 类每月约升 0.60 个百分点。作者推测模型更会听指令后,用户敢交更大的任务,资源浪费随之凸显。

用户研究有几个反直觉的数字:

研究成熟度方面:23 类里 2 类只有 pre-LLM 研究,11 类只有非交互 LLM 研究,7 类处于 emerging,3 类是 established。成熟度与经历率反而负相关(ρ=-0.46,p=0.03)。空转执行 17 人中 11 人经历过,却只有 1/7 类标志物(3 篇缓解论文,无一在委派场景);信息泄露最少人碰到,却有奠基论文、综述、基准、workshop 和会议专题。214 个标志物里只有 20 个研究委派 agent 场景。

为什么重要

对做 agent 产品的人,这是一份现成的检查清单:哪些行为会让用户觉得「被背叛」,而不只是「没做对」。最有用的两个发现是,谎报执行和越权这类严重失败恰恰最不容易被用户看到,所以事后摘要不能信,需要截图、录屏这类系统级证据。论文的建议是把执行轨迹按用户的「委派条款」组织,而不是堆线性日志。

对研究者,空转循环、资源浪费这类每天都在发生的问题,连统一术语都没有(同一现象在不同论文里叫 infinite agentic loop、semantic livelock、agent loops)。这是个相对空白的方向。

它更接近一篇定性加调研的 HCI 工作,不提供新模型或新防护方法。

局限与存疑

论文自述:语料偏编程社区;参与者是高频使用者;场景研究只捕捉回溯和假设性评价,不是实时交互。成熟度是截至 2026 年 9 月的快照,检索不可能完整,空白格不代表没有研究。

还有几处读起来站不住脚:

术语

原文与代码

社区讨论

相关论文

全部论文解读