别让 Planner 兼任门卫:Agent 安全前置分类器清单
blaizedsouza · x · 2026-09-14
一位开发者分享 agent 产品里的安全分类器前置模式:让 planner 同时做安全拦截,是越权请求漏进工具调用的根源。主张在 agent 规划之前先跑一个小而一致的安全分类器,并给出六步清单:
- 在入口分类用户意图
- 拦截已知禁止类别
- 返回统一的拒绝话术包,而非自由发挥的拒绝
- 只放行允许的意图去调用工具
- 记录类别与动作日志
- 把漏拦案例当作严重事件复盘
核心原则是「策略发生在推理之前,而不是损害之后」:分类器可以很小,但必须一致。
「编程与Agent」频道最新
- 游戏工作室让多台机器自动跑游戏回传 QA 报告 — draginol · 2026-10-31
- 开发者一年打造 Limma MCP:结构化全量数据,宣称检索零遗漏 — FlimsyIngenuity7248 · 2026-10-31
- Agent 审计新思路：不看总结，让用户说出改了哪些文件跑过哪些测试 — ronbodkin · 2026-10-31
- FlowSense 推出 MCP:让 Claude Code 看懂并管控 Mac 的所有网络连接 — hani_q · 2026-10-31
- 开发者：coding agent 通知只在等待审批时才值得推送 — petrusenko_max · 2026-10-31
- OpenTargets 非官方 MCP 服务器上线，可查询基因-药物-疾病关联 — modelcontextprotocol · 2026-10-31