开源 agentic-gate:在工具执行前拦截 LLM 编造参数
Nice_Current_8581 · reddit · 2026-10-25
开发者发布 agentic-gate,一个插在模型与工具之间的校验层(TS + Python,MIT 协议),解决 agent 调用工具时编造参数(不存在的订单号、负数金额、模糊日期)的问题。
核心机制
- 用 Zod(TS)或 Pydantic(Python)schema 在执行前校验参数
- 校验失败时把错误信息回传给模型,让它自行修正后重试
- 同一调用反复失败时触发熔断器,避免陷入 50 轮重试死循环
- 厂商无关:提供 OpenAI、Anthropic、Bedrock、Gemini 适配器,另有异步 validate() 钩子支持自定义检查
实测数据
作者用脚本化模型写了 benchmark(测的是门禁本身而非特定 LLM),在退款、转账、数据库查询三个场景中:无门禁时 150 次坏调用全部打到系统;有门禁时 0 次穿透,模型轮次从 150 降到 12。基准脚本在 benchmarks/ 目录可自行复现。
作者明确说明该工具只检查参数形状,不替代权限控制与高危操作审核。npm i agentic-gate / pip install agentic-gate。
「编程与Agent」频道最新
- OpenAI 降价抢走 Anthropic 编码客户:Replit 3 折迁移、Rippling 份额暴跌 — mark_k · 2026-10-25
- Streamrunner 发布:AI 加持的 macOS 原生直播工作室重构 OBS — jasonkneen · 2026-10-25
- 开发者用 Linux 机器加 CUA 监控让 Agent 跨界面协作 — tokenbender · 2026-10-25
- 用 agent 监控群聊代写节日祝福,还计划语音克隆发语音 — tokenbender · 2026-10-25
- 代码不再有护城河:剩下的只有分发、品味与社区 — paw_lean · 2026-10-25
- MOSS-Image 提示词增强器打包成本地 Ollama 模型,可离线接入 ComfyUI — Ducth_IT · 2026-10-25