PydanticAI 2.53.0 新增 ToolCallJudge,危险工具调用先审后行
KhuyenTran16 · x · 2026-10-15
Khuyen Tran 介绍 Pydantic 2.53.0 版 PydanticAI 新增的 ToolCallJudge：在风险工具调用（如删文件、泄露敏感数据等不可逆操作）执行前先做安全审查。用法示例：创建 ToolCallJudge（模型 anthropic:claude-haiku-4-5，监控 tools=["deletefile"]，问题设为「Would this destroy data?」，onuncertain="ask"）。判定为危险则拦截，不确定时升级为人工审批，避免单次错误工具调用造成不可逆损害。
所属事件:PydanticAI 2.53.0 引入 ToolCallJudge 高危操作先审后行(2 条相关)→
「编程与Agent」频道最新
- ChatGPT Sites 接 MCP Events 与 dots：工作流触发式智能体新玩法 — gabrielchua · 2026-10-15
- 从「AI 建议我手动改」到「彻底放手让 Agent 写代码」 — madeofAjala · 2026-10-15
- 用游戏测评编程模型不是炫技，而是检验真实复杂任务 — vitaliychiley · 2026-10-15
- OpenUI 1.0 发布:让本地开源模型的 Agent 告别纯文本,用组件渲染图表表单 — dr_cintas · 2026-10-15
- Proof 推出开放协议 x401，让 AI Agent 自证身份与授权 — csuwildcat · 2026-10-15
- 「AI 写代码不安全」?开发者反驳:人类写的烂代码从没少过 — dreamwieber · 2026-10-15