论文：AI 智能体正在将人类挤出监管循环
mmitchell_ai · x · 2026-09-02
Margaret Mitchell 等人发布新论文，指出 AI 智能体在获得更大自主权时带来显著风险。文章论证目前的开发部署方式不仅阻碍有效的人类监管，还会因长期使用 AI 系统而削弱监管所需的认知能力。作者呼吁将监管者的认知需求置于与 AI 能力同等重要的位置，提出了设计级支持功能以抵消自动化带来的技能退化。
所属事件:新论文：AI Agent 正把人类挤出决策圈(10 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18