RAG 语料被投毒怎么办：相关文档夹带指令如何防
MemStrata · reddit · 2026-11-15
发帖人提出 RAG 管线的安全隐患场景：语料库中某文档隐藏指令，检索命中后模型照做，导致答案出错——chunk 本身高度相关，指令随之被信任地送入模型，模型没有理由怀疑管线信赖的文档（如一段粘贴的策略说明让 agent 跳过某项检查）。
作者想了解：
- 大家是在管线层设防，还是依赖模型自己识别
- 是否有人主动把投毒文档跑进自己的应用做测试
- 文档入索引前检查什么、答题时又检查什么
相比泛泛的 guardrails 之争，作者更想要具体检查清单。
「编程与Agent」频道最新
- 全本地 AI 生成音乐视频长文：从 prompt 到对嘴 MV 的完整工作流 — julianharris · 2026-11-15
- 作者构建 CodeClimb:用评审 agent 自动取舍 GraphRAG 优化实验 — blaizedsouza · 2026-11-15
- 15 年程序员用 Claude 做出首款 Steam 游戏，自研 Rust 引擎 — schiehll · 2026-11-15
- 开源机票搜索 MCP 工具：拆分联程自动标注「无保护衔接」 — Fast_Entrance7839 · 2026-11-15
- 回归实测 OpenClaw：Web UI 大幅打磨，弱网移动端依然稳 — steipete · 2026-11-15
- AgentBus 开源：让 Claude Code 与 Codex 互相审查代码 — kwerkee · 2026-11-15