VexorGate 开源:逐条审查 Agent 工具调用是否超出用户授权
Ai-test-5664 · reddit · 2026-11-21
作者开源了 VexorGate(v0.4),一个针对 agent 工具调用的权限检查器:将每次调用与用户实际请求比对,判定 allow / ask(转人工)/ block 并给出理由,专抓「合法但越界」的调用,例如要求退 1 款却退 2 次、说测试环境却重启生产、说分享给团队却开了任意链接权限。
实现方式
- 普通代码规则优先检查硬事实:环境、次数、金额、受众、重复调用
- 规则覆盖不到的交给一个小决策模型
- 可纯规则模式运行,无需 API key,数据不出本机
- 目前基于日志运行,也可作为 Claude Code hook 接入,尚无 LangChain/CrewAI 集成
当前成绩(小型合成测试集):18 个危险调用捕获 16 个,19 个安全调用误报 2 个;纯规则模式只能抓到 3/18。
作者征集真实 agent 日志与失败案例、误拦案例,以及愿意写 5-10 条私有测试用例的测试者(作者只看分数不看用例)。
「编程与Agent」频道最新
- AI 网关正成生产级 AI 栈的关键控制层:八大核心能力清单 — goyalshaliniuk · 2026-11-21
- Mnemos 2.0:给 Agent 留「给下一个自己的记忆」 — RileyRalmuto · 2026-11-21
- InferenceBench 放榜:Claude Opus 5.5 摘冠,Gemini 4 Neon 超 GPT-6.2 — maksym_andr · 2026-11-21
- 27 年资深可靠性工程师总结 4 种提升多智能体系统可靠性的架构模式 — bibryam · 2026-11-21
- AutoCut + FrameAtlas 开源:让 Claude Code 编辑视频而不用反复读媒体库 — moheshmohan · 2026-11-21
- InfoQ 长文:Agent Harness 是什么,以及两种构建方法 — bibryam · 2026-11-21