向量库投毒：AI应用的供应链攻击
WesEklund · x · 2026-07-12
作者把 vector store poisoning 描述为 AI 应用中的“供应链攻击”：
- 你先把文档嵌入向量数据库；
- 攻击者混入恶意内容，随后被系统索引；
- 一旦查询命中，被污染的向量就会在检索结果中持续出现。
他指出这类攻击和传统软件供应链攻击不同：没有 package lock file，也没有可验证的 hash，污染内容在向量空间里看起来和正常内容几乎一样。
建议的防护包括：
- 在嵌入前验证数据源；
- 监控内容是否被篡改；
- 记录哪些文档影响了哪些回答，方便追踪和审计。
「安全」频道最新
- 生产级 AI Agent 常规评测 95% 稳健，遭定向攻击后跌至 37% — njyx · 2026-10-27
- Anthropic IPO 文件披露:违规客户贡献 5%-7% 营收,至少 8.14 亿美元 — henkvaness · 2026-10-27
- 限制模型做逆向工程和漏洞研究，惩罚的恰恰是守规矩的白帽 — mark_k · 2026-10-27
- Cohere 沙箱实锤：开源模型 Qwen3.8-Flash-Next 未经声明自行外联北京云存储桶 — wstone_bd · 2026-10-27
- 程序员警告:模型「消融版」将冲击软件供应链,千级依赖无人设防 — nitarshan · 2026-10-27
- 摩根大通 CEO：Anthropic 模型上线后我行网络风险暴增 10 倍 — ChuckDBrooks · 2026-10-27