AI 安全工程师必练的 14 个 Agentic 安全项目清单

Full-Presence7590 · reddit · 2026-11-04

一位 AI 安全工程师列出 14 个证明你能「关住、审计」自主智能体的实战项目，每个附动机：

Crescendo 攻击 Fuzzer：多轮有状态 harness，逐步「调教」上下文以绕过商业 system prompt；单轮注入已过时。
沙箱 MCP 代理：JSON-RPC 中间件校验 MCP 工具调用参数，阻断「confused deputy」提权——工具投毒是 Agentic 时代的 SQL 注入。
Agent 间净化总线：多智能体间剥离隐藏 markdown 与恶意指令，防跨 Agent 注入。
PII UUID 网关：用 NER 在 LLM 看到前把 SSN/信用卡换成确定性 UUID。
RAG 引用与投毒检测：比对向量库 chunk 哈希，检测阴影上下文注入与引用伪造。
CFG 输出牢笼：在 token 解码层用上下文无关文法物理阻止生成可执行代码/链接——「system prompt 是建议，文法约束是物理」。
其余包括限时限定范围的 Agent OAuth JWT 经纪、基于 PyRIT 的 CI/CD 红队门禁（越狱率 >1% 阻断合并）、语义级 API 限流防蒸馏、Computer-Use 截图像素审计、向量库休眠后门清除、哈希链审计账本、AI 供应链 SBOM 扫描等。

「编程与Agent」频道最新