PydanticAI 新增 ApprovalReviewer:用第二个模型先过滤无害审批请求

KhuyenTran16 · x · 2026-11-12

Khuyen Tran 介绍 PydanticAI 2.57.0 的新特性 ApprovalReviewer,解决 agent 人工审批疲劳问题。

问题:人工审批对危险 shell 命令是有用的安全检查,但如果每个无害命令也要审批,反复弹窗会让人养成无脑点「Approve」的习惯。

做法:ApprovalReviewer 让第二个模型(配图示例用 anthropic:claude-haiku-4-5)在人类看到审批请求前判断该工具调用是否有风险,判断标准可自定义,如「会不会删数据、访问网络或泄露密钥」。

逻辑:低风险调用直接在同一步骤继续执行;有风险、不确定或审查失败的调用仍需人工审批。

所属事件:PydanticAI 2.57.0 推出 ApprovalReviewer 缓解人工审批疲劳(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →