不做护栏用 MCP 不负责任:出站数据拦截与提示注入防护成刚需
shensi · x · 2026-11-20
shensi 指出,现在大家意识到不加护栏就使用 MCP 或 LLM 是不负责任的做法,核心应包括:在敏感数据外发前拦截、阻止藏在文档和工单里的 prompt injection、以及记录每一次工具调用日志。
他还在后续补充称,AI skills 的共享目前仍主要面向工程师,多数公司放在 GitHub 里管理,研发之外的员工使用门槛很高、流程繁琐。
「安全」频道最新
- 百人聚集 Anthropic 旧金山总部外,抗议「AI 竞赛」 — nmasc_ · 2026-11-20
- NVIDIA 将于 GTC DC 举办物理 AI 安全专题会议 — liu_mingyu · 2026-11-20
- Anthropic 安全研究员被指「模式坍缩」,激辩福祉增强立场 — repligate · 2026-11-20
- Starlight Arena 悬赏 5 万美元,用人话哄 AI agent 破坏规则 — mhdfaran · 2026-11-20
- 40 行 Node 零依赖:给 PaaS 环境变量上 AES-256-GCM 保险 — DavidWells · 2026-11-20
- 开发者指 AI 沙箱生态漏洞层叠,被迫从零自建 VM 隔离方案 — wavefnx · 2026-11-20