提示词注入被检测到≠被拦截:Agent 安全护栏验证四问

shoumikgoswami · reddit · 2026-10-28

作者指出一个常见误区:安全面板显示「检测到 prompt injection」并不代表 agent 真的阻止了该内容进入执行链路。

以 StackOne 开源的 Defender 为例,其 README 写明 blockHighRisk 选项默认为 false——检测可以标记高风险内容,但若未开启拦截,结果并不会被判为「不允许」。

作者给出护栏部署前应检查的问题:

Defender 自述文本清洗是 best-effort,并承认 LLM 审查者本身也可能被它正在审查的文本影响。实操检验方法是走完整链路:提交已知恶意工具结果,检查判定,确认应用层确实阻止其到达 agent。日志里的警告不等于拦截。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →