Agent 拿你的合法凭证作恶,API 侧根本无法识别意图

Cytersmyz · reddit · 2026-11-04

一位开发者提出 agent 安全的核心难题:如果 agent 持有你的有效 token、scope 正确、操作也在允许范围内,但被投毒的网页/工具输出说服做了你从未授权的事——从 API 角度看一切正常,没有任何机制能判断这不是你的真实意图。

作者指出常规答案(agent 独立身份、短时效凭证、最小权限)只是缩小能力边界,并不解决「被允许的动作是否符合意图」;而每个重要动作都要人工审批又抵消了 agent 的价值。他提到 Acalvio 的思路:在 agent 运行时周围布设假凭证、假工具、假 MCP 路径等诱饵,正常工作流不会触碰,一旦 agent 去翻就说明已被劫持,比从合法调用里猜意图更可靠。帖尾追问:大家实际把信任边界放在哪?