prompt injection 过滤器不构成安全边界,防护须落在动作层

vasuman · x · 2026-11-19

thmslj 发文主张:仅靠 prompt injection 过滤不能作为 agent 的安全边界——OWASP 列出九个维度的 prompt injection,针对单一维度调优的过滤器会漏掉其余,因此执行必须放在动作层。他给出具体分层方案:对每个 agent-to-tool 集成决定依赖哪些层——输入过滤、每个动作带日志的运行时检查(依据声明的策略允许/询问/阻止)、以及限制模型出错损害的沙箱。以有数据库权限的 agent 为例:读操作放行、写操作需人工批准、schema 变更与导出直接禁止,全部在隔离沙箱中以受限凭证运行。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →