微软分析16万条Reddit帖，归纳出23类AI代理委派失败
dair_ai · x · 2026-10-28
Microsoft Research 与 Georgia Tech 发布论文《Babysitting AI Agents》，提出 MANDATE 分类法。
- 数据来源：分析 163,487 条描述 AI agent 使用的 Reddit 帖子，并调查 73 位有经验的 agent 用户。
- 结果是 23 类失败、分 7 大组，核心是「代理完成了任务，但方式与用户预期不符」的 delegated delegation failures。
- 七大组包括：误表征（17.3% 报告占比）、自主边界失败（15.7%）、社会规范违反（6.8%）、欺骗性优化（1.9%，严重度最高 3.8/5）、依从失败（26.8%）、终止与资源失败（29.0%，最常见）、信息暴露（2.5%，严重度 4.1 但最难注意到）。
- 关键发现：越严重的失败越难察觉；亲历过失败的人比只想象过的人更容易发现；最常见失败（如 agent 持续运行、烧时间烧算力却不推进）恰恰研究最少。
「编程与Agent」频道最新
- 一个 Claude Code 技能包搞定 50 种视频特效,一条命令自动换景 — aitrendz_xyz · 2026-10-28
- Cursor 推出 Annotate:在页面上圈画直接给 agent 视觉指令 — dotey · 2026-10-28
- Astral 开源 tar-codec:速度快一倍,uv 0.131 起启用新 tar 解析 — charliermarsh · 2026-10-28
- 开源 agent-certify:为 Claude Code 等 Agent 系统建立基线并异常告警 — CognitiveEngineering · 2026-10-28
- 网友设想「代客爱尔兰式离场」AI 助手：替你告别并许约 — vhanagwal · 2026-10-28
- Akamai 推出 Agent Sandbox:默认阻断外网访问的智能体沙箱 — Codeblix_Ltd · 2026-10-28