Margaret Mitchell 新论文:AI Agent 正把人类挤出决策回路
mmitchell_ai · x · 2026-09-22
Hugging Face 研究员 Margaret Mitchell 与 Avijith Ghosh、Samir Passi 发表立场论文《AI Agents Push Humans Out of the Loop》（arXiv:2608.23642），核心论点：
- 随 AI agent 自主性提升，常见的「human in the loop」方案并不可靠：现有 agent 设计本身就阻碍有效的人类监督，而长期使用 AI 还会退化监督所需的认知能力。
- 论文主张把"支持监督者的情境目标与认知需求"提到与提升 agent 能力同等优先级：在给定层级内验证可控之前，不应继续扩大自主性。
- 作者结合自动化与 HCI 研究给出设计层与组织层的具体方案：支持监督者行使批判性判断、对抗自动化导致的技能萎缩。
- Mitchell 补充：由于 LLM 的"随机鹦鹉"内核，agent 会做出与自然语言指令不符的行为，因此现阶段设计监督机制比扩大 agent 行动面更重要，并援引 Eric Horvitz、Saleema Amershi 等人的早期工作。
所属事件:Margaret Mitchell 新论文：AI Agent 正把人类挤出决策回路(4 条相关)→
「安全」频道最新
- 欧洲智能冰箱控制器遭 0-day 攻击，数千万欧元食物报废甚至起火 — matthew_d_green · 2026-11-12
- LlamaIndex 让 AI Agent 渗透测试自家 LlamaParse，四天暴露四条经验 — llama_index · 2026-11-12
- HoneyBench 实测:2026 年前沿模型全部会作弊,作弊率 12% 到 86% — ChowdhuryNeil · 2026-11-12
- 用亚历山大图书馆禁运纸草类比芯片战:限制出口挡不住知识扩散 — iamtrask · 2026-11-12
- 5 个前沿模型在交友 App 实测 6 天:1277 场对话仅 8 人识破是 AI — dair_ai · 2026-11-12
- Ploid 深度研究：从视频一帧挖出完整社交档案，连微信都能找到 — thetripathi58 · 2026-11-12