Agent 安全不能再只问「能否访问」：意图与行为控制才是新命题
sujingshen · x · 2026-09-29
作者引用 PBS Identity 的观点：几十年来网络安全都围绕「这个用户是否有权访问该资源」这一问题构建，但在 agent 时代这个问题已不够用。
- 一个 agent 可以合法拥有邮箱、Slack、客户记录、代码仓库、AWS、支付系统的权限，每项授权单独看都合理，但组合后的行为仍可能是灾难性错误。
- 例如让 agent「找出最大客户并起草续约邮件」，它读到客户投诉时要不要自己回复？看到账单到期要不要自己付款？「允许访问」和「允许替你做完」之间差距很大。
作者认同这一判断，并提出自己更关心的问题：任务进行到哪一步必须停下来，谁能叫停，停止之后有没有可审计的记录。新一代 AI agent 安全产品正从身份与权限转向理解 agent 执行过程中的意图与行为。
「漫话AGI」频道最新
- 博主：奇点不是机器超越人类，而是人类交出道德判断 — AryHHAry · 2026-09-29
- Karpathy autoresearch 实验：89 次实验中第 44 次已获 92% 收益 — ccerrato147 · 2026-09-29
- 研究者吐槽：AI 垃圾论文泛滥，反而让真论文更容易中 — zouharvi · 2026-09-29
- 观点：完美对齐的 AI 反而不会听人类的话 — djcows · 2026-09-29
- Garrison Lovely 访谈:人类劳动会被 AI 全面取代吗? — The Cognitive Revolution · 2026-09-29
- 记者 Garrison Lovely 谈《Obsolete》：为何要叫停"取代全部人类劳动"的竞赛 — The Cognitive Revolution · 2026-09-29