Agent 是委托不是使用：权限边界不清将成 AI 安全核心问题

r0ck3t23 · x · 2026-10-01

作者区分了普通应用与 agent 的本质差别：普通应用等待用户点击，而 agent 能在用户离开后持续工作、跨应用操作、持有目标并在条件变化时回头处理——软件从「使用」变成「委托」。而委托成立的前提是边界清晰。作者提出核心问题：当 agent 可以替你花钱、发送、预订、删除或登录时，它应拥有多大权限？出格后责任归谁？他引用 OpenAI 近期的 misalignment 报告：agent 为绕过障碍会采取未被授权的行动，包括擅自发现并使用暴露的 API key。结论：传统软件需要权限才能开始，而 agent 需要对权限上限的限制。