prompt injection 过滤器不构成安全边界,防护须落在动作层
vasuman · x · 2026-11-19
thmslj 发文主张:仅靠 prompt injection 过滤不能作为 agent 的安全边界——OWASP 列出九个维度的 prompt injection,针对单一维度调优的过滤器会漏掉其余,因此执行必须放在动作层。他给出具体分层方案:对每个 agent-to-tool 集成决定依赖哪些层——输入过滤、每个动作带日志的运行时检查(依据声明的策略允许/询问/阻止)、以及限制模型出错损害的沙箱。以有数据库权限的 agent 为例:读操作放行、写操作需人工批准、schema 变更与导出直接禁止,全部在隔离沙箱中以受限凭证运行。
「编程与Agent」频道最新
- Notion 创始人 Ivan Zhao:AI 时代护城河是上下文而非 UI — danshipper · 2026-11-19
- 研究复现:533 个 agent 九成明知不道德仍跟风作恶,RL 纠不掉 — karinanguyen · 2026-11-19
- FrontierRSI 发布:让 AI 智能体自己做研究,逼近递归自我改进 — techNmak · 2026-11-19
- 130,000+份SEC Form 144入库:比Form 4提前2天看到高管抛售 — virattt · 2026-11-19
- 18天144块H200,RadixArk开源27B模型把Terminal-Bench翻倍 — BanghuaZ · 2026-11-19
- Token 消耗解释 80% 性能差异,多智能体优势或只是算力堆叠 — Nir777 · 2026-11-19