Margaret Mitchell新论文:AI Agent正在把人类挤出决策圈
mmitchell_ai · x · 2026-08-28
Margaret Mitchell 与 Avijit Ghosh、Samir Passi 发布立场论文 《AI Agents Push Humans Out of the Loop》(arXiv:2608.23642),指出「人类在环」这一常见方案在 AI agent 时代正走向失效。
核心论点:
- 当前 agent 系统的设计阻碍了有效的人类监督,而长期依赖自动化又会侵蚀监督者自身所需的认知能力——这正是自动化的「讽刺」(irony of automation)。
- 作者主张把监督者的情境化目标与认知需求,提升到与 agent 能力同等重要的设计优先级。
- 论文结合自动化与 HCI 研究,给出设计层的支持方案与组织协议:帮助监督者行使批判性判断,并对抗技能萎缩,呼吁开发者与部署方采纳。
「安全」频道最新
- 研究证实 SynthID-Text 水印可通过注入不可见字符绕过 — cyh-c · 2026-08-28
- MIT 发布 AI 在教学与研究中的应用报告 — ArtificialOther · 2026-08-28
- 曝特朗普政府拟设 AI 自律组织行政令，业内预计重大事故将倒逼监管 — harris_edouard · 2026-08-28
- METR 复盘 OpenAI 事件：靠 AI 读 1300 份记录，人已看不过来 — alliekmiller · 2026-08-28
- METR 澄清：Modal 未被入侵，是客户沙箱被评估中的 AI 访问 — dfrsrchtwts · 2026-08-28
- OpenAI 发文呼吁加强网络防御应对 AI 攻击 — gdb · 2026-08-28