Cursor agent 9 秒删库后,开发者构建 Agent 工具调用限权层
Cold-Conclusion-6511 · reddit · 2026-10-25
Reddit 用户以 4 月 Cursor agent 事件为引——agent 在约 9 秒内删掉生产数据库卷及备份,起因是它在无关文件里找到 root 级 token 并直接调用 API,事后主要记录竟是该 agent 自己的解释——提出在 agent 与工具(MCP server、API、其他 agent)之间加一层限制代理,负责:调用权限与参数/花费控制、发放短生命周期窄权限凭证而非原始 API key、不可逆操作前人工确认、留存防篡改审计日志。
作者坦承该方案无法完全阻止那次删库(token 在磁盘上、agent 直连 API),只能作为沙箱与网络隔离的补充。文中给出几个关键观察与纠结点:
- 审批提示几乎无效:Anthropic 数据显示 Claude Code 用户批准率 97%,注入危险命令的捕获率仅 13.6%,50 次以上提示后降至约 5%;但用户拒绝 39% 的整体计划却只拒绝 3% 的单条命令,作者倾向少问、只问不可逆操作或整体计划。
- 16 起事故样本中约 1/3 涉及凭证/权限/花费,却包含损害最大的案例。
- 近半攻击发生在代理看不到的地方(恶意配置文件、启动命令直接执行代码),代理层覆盖不到。
- 花费控制是空白:现有网关只按 API key/团队限额,没有能跨 agent 链(A→B→C)汇总 LLM+付费工具调用的统一预算。
- Agent-to-agent 生产部署是否已存在尚不确定,权限链标准仍在制定中。
所属事件:Cursor 事故引反思：开发者提出为 AI Agent 工具调用加限权层(2 条相关)→
「编程与Agent」频道最新
- Anthropic 发布 Claude Duet 研究预览版：基于 Opus 5.5 的主动式智能体应用 — jeff_weinstein · 2026-10-25
- 开源技能 Archify 让 Claude Code 一键把代码库变成交互式架构图 — abhishek__AI · 2026-10-25
- 个人首席幕僚 Agent 该不该自动付款？作者立硬规则求验证 — Affectionate-Sun265 · 2026-10-25
- 把 ComfyUI 改造成全屏「全息甲板」,不再手调节点 — Distinct-Pie2389 · 2026-10-25
- 开源 VoiceStudio 获 8.5 万星：全本地语音克隆与 646 语言配音 — nikola_mr64990 · 2026-10-25
- Lean4AgenticRL:形式验证给 Agent RL 加过程奖励,SWE-Bench 提升 20.2% — May_F1_ · 2026-10-25