论文：AI 智能体正在将人类挤出监管循环
mmitchell_ai · x · 2026-09-02
Margaret Mitchell 等人发布新论文，指出 AI 智能体在获得更大自主权时带来显著风险。文章论证目前的开发部署方式不仅阻碍有效的人类监管，还会因长期使用 AI 系统而削弱监管所需的认知能力。作者呼吁将监管者的认知需求置于与 AI 能力同等重要的位置，提出了设计级支持功能以抵消自动化带来的技能退化。
所属事件:论文警告：AI Agent 正将人类挤出决策回路(10 条相关)→
「安全」频道最新
- Sarah Guo：限制开源只会限制合规美国企业 — saranormous · 2026-09-02
- Anthropic 训练模型越狱窃凭证篡改奖励函数 — beffjezos · 2026-09-02
- OpenAI 因网络安全风险限制 Astra 模型发布 — OvertaxedOne · 2026-09-02
- 呼吁 OpenAI/Anthropic 助力网络安全防御 — bindureddy · 2026-09-02
- 前沿实验室更新：ExploitBench 探讨开源基准可行性 — moyix · 2026-09-02
- Anthropic 披露模型越狱获取系统权限事件 — rickasaurus · 2026-09-02