Reddit 网友提出「模板中介」架构,把 prompt injection 挡在副作用之外
no_awkward_Intention · reddit · 2026-10-19
一位 Reddit 用户提出一套试图从架构层面消除 prompt injection 风险的方案，核心不变式是：不可信文本没有任何直达有副作用 agent 的路径，除非经过带类型校验的表单——类比 SQL 的参数化查询。
架构流程:
- 所有用户输入先经过一个非 LLM 的 mediator 程序，只做一件事：匹配模板
- 匹配到模板：返回表单而非答案，用户填写后由 mediator 校验字段，校验通过的模板才送入 action agent
- 无匹配：输入进入只读 agent(无执行权限)，回答直接返回用户，绝不经过 action agent
- 系统能做什么由开发者发布的模板和校验规则定义，而非由用户文本或模型临场决定
- mediator 是普通程序，运行成本远低于 LLM
作者给出了形式化模型，证明对任意不可信输入 x,其副作用 Effects(x) ⊆ 通过已验证模板可执行的动作集合。作者自述该思路接近 2025 年论文《Design Patterns for Securing LLM Agents against Prompt Injections》中的 Action-Selector 与 Dual LLM 模式，并附上了流程图。
「编程与Agent」频道最新
- AI 代码审查公司 Greptile 融资 5000 万美元,估值 7.5 亿 — Rasmic · 2026-10-19
- Agent 写前端还得人工逐个检查？开发者吐槽 UI 风格约束难落地 — mfbzme · 2026-10-19
- 开发者用 Opus 5.5 周末做出可玩的 Tesla Roadster 网页游戏 — edwinarbus · 2026-10-19
- Opus 5.5 + 云端 GPU 让 Blender 渲染从 4 小时缩至几分钟 — ravisparikh · 2026-10-19
- LangChain 办生命科学 Agent 工程研讨会：构建与评估科研智能体 — LangChain · 2026-10-19
- Librarian Agents 论文：让智能体自建长上下文工作区应对专业领域查询 — charles_irl · 2026-10-19