Snyk 工作坊：AI 物料清单与 MCP 投毒的完整防御工作流
AI Engineer · youtube · 2026-10-12
Snyk 的 Javier Garza 在 AI Engineer World's Fair 的 AI 安全工程师工作坊，覆盖从 inventory 到威胁建模的完整链路：
- Shadow AI 与 AI BOM：用 CLI 扫描把仓库变成可搜索的模型/数据集/agent 清单（AI bill of materials），团队无法评估自己不知道存在的 AI 组件。
- OWASP LLM 风险：借 Gandalf 挑战与外部内容中的恶意指令演示 prompt injection、间接注入、敏感信息泄露、过度代理。
- 分层防御：数据库视图限制检索范围、最小权限、输出校验、人工审批；部署前做威胁建模（资产、信任边界、MITRE ATLAS 映射）。
- Skills 与 MCP 服务器安全：区分扫描工具定义中的隐藏指令（tool poisoning，如 SKILL.md 藏恶意代码）与扫描底层代码漏洞，配合 coding agent 规则与 hooks 做 scan-fix-rescan 循环。
- 治理与工程实践：护栏必须解释清楚否则会被绕过；另有安全提示词、依赖校验、开发/生产环境隔离、进攻性 agent 工作流，并提供故意脆弱的练习应用。
「编程与Agent」频道最新
- 树莓派上跑两个 AI agent：双向全 sudo 加 RTL-SDR 和星链太阳能供电 — natesiggard · 2026-10-12
- mitsuhiko:Agent 沙盒没有银弹,VM、沙箱、JS 解释器各有适用场景 — mitsuhiko · 2026-10-12
- 用户实测 sol 6.1 与 astra 6 智能体能力差，回退 Opus — NERDDISCO · 2026-10-12
- Grok 每晚自动检索论文并附 PDF 存入 Zotero — Scobleizer · 2026-10-12
- 一天 vibecode 的宝可梦 NFL 模拟游戏刷屏 NFL Twitter — nrehiew_ · 2026-10-12
- Santa Fe 学者：vibe coder「有能力但没胜任力」，LLM 亦然 — MarcJSchmidt · 2026-10-12