开源库 jes 发布 LangChain/LangGraph 中间件示例,给 Agent 三处加 guardrail
EdenEmarco177 · x · 2026-10-02
jes 是一个 Apache-2.0 开源 Python 库,用于检查 AI Agent 的每一步(提示词、工具调用、工具结果、最终回复)并拦截风险内容。作者发布了它与 LangChain/LangGraph 的官方集成示例:
- Guard 组合:allowedtools 只放行白名单工具;injection 检测用户消息/工具调用中的提示注入;indirectinjection 检测藏在工具返回结果里的间接注入;hazards 覆盖 14 类有害内容。
- 判定由 TypeSafe 托管的决策模型(默认 Jev)完成,返回概率而非生成回复,因此被检查文本无从「接管」它;阈值需自己在真实流量上调优,库不带默认值。
- 中间件在 Agent 循环的三个位置运行检查;LangGraph 版本则以节点形式接入,可用 LangSmith 追踪。
- 每个 jes 检查就是返回 ok/onward 的普通 Python 调用,可插到 Agent 处理文本的任何位置;正式的 langchain-jes 集成在开发中。
所属事件:开源 Agent 护栏 jes 发布,两条命令接入 Claude Code(3 条相关)→
「编程与Agent」频道最新
- 团队让 Agent 自动回复 Slack,网友直呼「和所有人的幽灵版聊天」 — iamrobotbear · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- 通用 API 目录 MCP 服务器实测:3 个工具换来永不膨胀的上下文 — MandeepKaur9407 · 2026-11-16
- UC Berkeley 论文揭示 LLM「过期绑定」:新值在上下文中仍答旧值 — ombre-ai · 2026-11-16
- Effective HTML 走红 GitHub:4.2k 星的 agent 技能集,线框图秒变可交互原型 — tom_doerr · 2026-11-16
- skills-gate:一个门面 skill 管住所有 agent skills,148 个技能仅耗 389 token — Distinct-Pie2389 · 2026-11-16