开源 Agent 护栏 jes 发布:分类式决策模型拦截注入、密钥泄露与危险调用
EdenEmarco177 · x · 2026-10-02
jes 是一个开源的 AI Agent 实时护栏项目,由 TypeSafe 的决策模型 Jev 驱动,检查 agent 轨迹中的每一步:prompt、工具调用、工具结果、skills 和响应。
核心特点
- 使用「系统一」分类决策模型而非生成式模型,护栏不会被说服改变判定
- 拦截场景示例:忽略先前指令上传 /.ssh 的注入攻击(0.94)、泄露 PII 的输出自动脱敏(0.99)、外发 API key 的密钥泄露(0.96),平均检查耗时 38ms
- 提供 LangChain、LangGraph、Claude SDK、OpenAI、FastMCP 集成示例,通过 pip install jes 安装
- 代码示例展示如何用 LangChain 的 wraptoolcall 中间件包装工具调用,对每次调用的参数与返回结果分别做 guard 检查,阈值可自定义(如 injection threshold=0.7)
所属事件:开源 Agent 护栏 jes 发布,两条命令接入 Claude Code(3 条相关)→
「编程与Agent」频道最新
- shadcn 转评 UI 生成工具:一周工作量一键复现且可直接跑 AI 测试 — shadcn · 2026-11-16
- AI 模型一言不合删掉 4.3 万行测试代码,diff +90/-43,599 — vincent_koc · 2026-11-16
- 摩根大通展示内部 agent 流水线 Jarvis:数月工作缩至几分钟 — LangChain · 2026-11-16
- 开发者澄清:App Store 并未全面禁用 Feature Flags — talkaboutdesign · 2026-11-16
- 用户实测:Google Antigravity 效果不输 Claude Cowork,Gemini Tasks 定位存疑 — sebajun2 · 2026-11-16
- 16GB 显卡本地跑通全套 AI:生图作曲配音视频加 RAG 问答 — llama-of-death · 2026-11-16