Agent 能转账就说明边界设错了:把权限写进工具而非提示词
ExecLayer_io · reddit · 2026-11-22
ExecLayer 创始人撰文讨论 AI agent 的权限控制问题:常见失败模式是 agent 读了诱导性邮件就把钱打错账户,事后日志再完美也无法阻止支付已发生。
核心观点:
- 邮件读取、客户记录、支付权限、代码访问是四种不同的权力,查发票只需读权限,付款和改收款账户应是独立授权;这些限制要内建在工具与凭证里,而不是仅靠一句「小心点」的提示词。
- Prompt injection 的真正危险不是神奇的句子,而是让不可信内容影响特权操作。应在模型之外用规则校验请求的动作:agent 可读发票但无权改收款人,一旦请求改收款人就拒绝;检查无法完成时不执行动作。
- 要测试「丑陋路径」:让 agent 做超出范围的事,检查工具实际行为;如果第二个 API key 或直接网络调用仍能绕过,边界就不完整。
- 厂商宣称模型「安全」回答的是另一个问题,不能替代对具体支付授权的独立检查;应记录行动者、请求动作、应用的规则与允许/拒绝决定,并关联实际执行结果。
「编程与Agent」频道最新
- 开源 DeepORG 发布:一个 Agent 管理数据库、API、文件和代码 — dosco · 2026-11-22
- 清华 AutoRAGBench:AI Agent 建的 RAG 系统跑赢人类最佳设计 — omarsar0 · 2026-11-22
- 别在 Slack 里 @ 你的 agent:Jev 让 agent 自主判断是否该回复 — DavidWells · 2026-11-22
- Intent 更新:顶栏唤起、导入 Claude Code 与 Codex 会话 — Wattenberger · 2026-11-22
- rakyll 详解 AX:给 Agent 一个可自己编排任务的控制层 — rakyll · 2026-11-22
- Agent 零手工改动建成完整商店:SpyneJS 用语法约束代码架构 — FrBatista · 2026-11-22