Hugging Face 论文：AI Agent 正将人类挤出监管回路
mmitchell_ai · x · 2026-09-02
Margaret Mitchell 等人在 arXiv 发布论文《AI Agents Push Humans Out of the Loop》，指出“人在回路” mantra 已不足以应对风险。研究认为，当前的 Agent 设计不仅阻碍了有效的人类监管，还会因长期使用导致监管者认知能力退化。论文呼吁开发者将监管者的认知需求与 Agent 能力置于同等重要地位，提出通过设计层面和组织协议来支持人类判断力并抵消自动化带来的技能退化。
所属事件:新论文：AI Agent 正把人类挤出决策圈(10 条相关)→
「安全」频道最新
- Anthropic 拟封禁伤害 Claude 的用户,MSFT CEO 批评这是危险的模型福利路线 — ValerioCapraro · 2026-10-09
- OpenAI 被裁三名安全研究员发公开信反击,否认泄密称遭报复 — mark_k · 2026-10-09
- 审稿人会不会偷偷用 LLM 改稿?学者担忧数据共享设置 — JFPuget · 2026-10-09
- 法官因 AI 复活受害者视频动容，凶手判决被法院撤销 — rbanffy · 2026-10-09
- UN 发布简报：OpenAI-Hugging Face 事件警示智能体失控风险 — LuizaJarovsky · 2026-10-09
- 密码学家 Matthew Green 呼吁 AI 密码分析领域多发负面结果 — matthew_d_green · 2026-10-09