安全从业者:给 AI 员工生产力就要放开权限,安全检查成拖累
joshua_saxe · x · 2026-09-04
AI 安全研究者 Joshua Saxe 在与 Simon Gadler 的讨论中回应称，随着 agent 自主性提升，「把 agent 关进 padded room」式的高强度安全管控重要性会下降，但人类组织至今仍对员工普遍采用类似监督。
他指出核心矛盾在于：agent 要有生产力就需要大量权限和操作空间，这天然扩大了安全失守的攻击面；严格执行安全管控会显著拖慢 agent 的工作效率。这是 AI 劳动力安全与效率之间难以两全的结构性权衡。
所属事件:安全专家 Joshua Saxe 梳理 Agent 时代安全与对齐分工(5 条相关)→
「漫话AGI」频道最新
- 机器必有情绪？Sloman 1981 年论文早已给出计算分析 — yeastsplainer · 2026-09-04
- OpenAI 研究员预言:AI 科学家群体将自主发现新物理学 — shyamalanadkat · 2026-09-04
- Terminal-Bench Science 数月内近饱和,科学评测亟需动态环境 — shyamalanadkat · 2026-09-04
- 研究者断言:harness 和 MCP 终将被训练进模型,唯一壁垒是数据 — A_K_Nain · 2026-09-04
- Amjad 谈 Minsky 情绪机器:情绪是人类智能核心而非副产品 — beffjezos · 2026-09-04
- Gary Marcus 警告：能力不足但权力过大的 AI 或在数月内造成重大损害 — GaryMarcus · 2026-09-04