提示词注入被检测到≠被拦截:Agent 安全护栏验证四问
shoumikgoswami · reddit · 2026-10-28
作者指出一个常见误区:安全面板显示「检测到 prompt injection」并不代表 agent 真的阻止了该内容进入执行链路。
以 StackOne 开源的 Defender 为例,其 README 写明 blockHighRisk 选项默认为 false——检测可以标记高风险内容,但若未开启拦截,结果并不会被判为「不允许」。
作者给出护栏部署前应检查的问题:
- 高风险判定是否真的触发 block 结论?
- 应用层是执行了该结论,还是仅记录日志?
- 可选的 LLM 审查者拒答或返回畸形输出时会发生什么?
- 是否信任了被「清洗」过的文本而非校验判定结果?
Defender 自述文本清洗是 best-effort,并承认 LLM 审查者本身也可能被它正在审查的文本影响。实操检验方法是走完整链路:提交已知恶意工具结果,检查判定,确认应用层确实阻止其到达 agent。日志里的警告不等于拦截。
「编程与Agent」频道最新
- 开发者用 12+ 个 OpenAI Agent 每小时自动迭代一款游戏 — jasonkneen · 2026-10-28
- 开源 Free Claude Code:61 家模型商免订阅接入 Claude Code — JafarNajafov · 2026-10-28
- 创业公司 Only Then Labs 提案:Agent 的旧批准不能当永久授权 — tallmetommy · 2026-10-28
- Google 免费放出 2 小时多智能体系统工作坊,从单 Agent 讲到图编排 — rseroter · 2026-10-28
- Omarchy 4.5 RC2 发布:每显示器独立工作区与浮动布局 — mark_k · 2026-10-28
- Claude 拦下伪装成认证错误的朝鲜供应链攻击代码 — banteg · 2026-10-28