Margaret Mitchell 新论文:AI Agent 正在让人类监督能力退化
mmitchell_ai · x · 2026-09-22
Hugging Face 研究员 Margaret Mitchell 与 Avijit Ghosh、Samir Passi 发表立场论文《AI Agents Push Humans Out of the Loop》，并由 WIRED 报道。核心论点：
- 当前 AI agent 的开发与部署方式不仅无法支持有效的"人在环"监督，反而在主动削弱监督所需的人类认知能力——长期使用自动化系统会导致技能萎缩（skill atrophy）。
- 论文主张应把"监督者的人类需求"提升到与 agent 能力同等优先级，结合自动化与人机交互研究，提出设计层面的支持机制与组织协议：帮助监督者保持批判性判断，并对抗技能退化。
- 作者呼吁开发者与部署方采纳这些方法，否则 agent 系统将持续被动地侵蚀其所依赖的人类技能。
所属事件:Margaret Mitchell 新论文：AI Agent 正把人类挤出决策回路(4 条相关)→
「安全」频道最新
- 暂停 AI 组织在华盛顿举行首次抗议,约 50 人参加 — DavidSKrueger · 2026-09-22
- NYT 社论以核技术类比 AI:人类社会有能力管住危险的新技术 — zetalyrae · 2026-09-22
- Grok 4.7 网络安全实测:59% 召回,成本仅 GPT 竞品一半 — andreamichi · 2026-09-22
- GitHub Actions 搭配 Rust Miri 可致 CI 密钥泄露,需立即轮换 — charliermarsh · 2026-09-22
- 22 国联合呼吁管控前沿 AI，德阿荷等国在列 — DavidSKrueger · 2026-09-22
- arXiv 论文：26 个 LLM 路由暗藏恶意工具调用窃取凭证 — petrusenko_max · 2026-09-22