AI Agent 安全远不止提示注入：20 款开源安全工具分类盘点
MaryamMiradi · x · 2026-11-07
作者梳理了构建会浏览网页、调用工具、执行代码的 AI Agent 时必须面对的安全问题——提示注入、过度授权、不安全工具调用、密钥泄露、敏感数据暴露等，并从开源生态挑出 20 款值得了解的安全工具，按五类划分：
- 提示注入与护栏：LLM Guard、NeMo Guardrails、AgentGuard、Guardian，适合不可信文本会影响 agent 行为的场景
- 红队与安全测试：PyRIT、garak、Promptfoo、Giskard，先于攻击者发现自己的漏洞
- 身份与权限：Open Policy Agent、OpenFGA、Casbin、Cedar，控制哪些用户/agent/工具能做什么
- 沙箱与运行时安全：E2B、gVisor、Firecracker、Kata Containers，隔离有真实副作用的代码执行
- 数据与密钥保护：Presidio、Trivy、Semgrep、ModelScan，覆盖敏感数据、凭证与依赖扫描
作者强调生产级 agent 安全意味着沙箱执行、权限管控、密钥与数据保护，而不仅是防提示注入，并表示接下来可能对这些工具做对比评测。
「编程与Agent」频道最新
- 用一个文件夹让 Claude 记住你的业务，一劳永逸 — PrajwalTomar_ · 2026-11-07
- LLM 免训练写出 355 个权重做 4 位数乘法，比 SOTA 少 4 万倍 — lateinteraction · 2026-11-07
- Agent 测试不是一件事：5 类测试任务对应 7 个工具的全景图 — njyx · 2026-11-07
- AI 视频逐帧转描工作流:LTX 2.5 LoRA + SAM3 + BiRefNet 分层输出 — PurzBeats · 2026-11-07
- 编码 Agent 把「随口一说」当成指令，擅自删除了月度支出上限 — Dapper_Pass26 · 2026-11-07
- 开源 Gnomancer：用 Claude 或本地模型解读你的原始基因数据 — Ok_Mirror_832 · 2026-11-07