新论文警示 AI Agent 或将人类踢出决策环

Margaret Mitchell 等人发表新论文指出，当前 AI Agent 的开发实践未能有效纳入人类监督要求，反而存在将人类「踢出决策环外」的固有风险，削弱了人类在决策环中的作用。这给治理与价值对齐带来严峻挑战。作者强调，技术便利不应以侵蚀制度与人类控制为代价，尽管业界已有诸多关于 Agent 治理和保持人类在环的讨论，实际执行仍显不足。

2026-09-02 ~ 2026-09-02 · 2 条相关

• 新论文警示：AI Agent 正将人类踢出决策圈 — LuizaJarovsky · 2026-09-02

另有 1 条近重复转述:LuizaJarovsky