双LLM隔离的安全智能体模式
WesEklund · x · 2026-07-12
作者提出一种用于 secure agents 的“双 LLM”模式：
- Privileged agent：拥有工具权限，但永远不直接处理不可信数据。
- Quarantined agent：负责处理邮件、网页、用户上传内容等不可信输入，但没有任何工具访问权。
工作方式是：隔离层先对不可信内容做总结，再由有权限的模型执行动作。这样即使隔离层被 prompt injection 影响，也因为没有工具权限而把损害限制在最小范围。
作者承认这种方案可能更贵，但认为它是目前最接近“LLM 版参数化查询”的做法。
「编程与Agent」频道最新
- 用 Astra 计算机视觉操控 Premiere Pro 剪辑，10 个实用玩法 — beechinour · 2026-10-27
- 开发者开源一套更好看的 Agent 运行瀑布图追踪 UI — round · 2026-10-27
- 马斯克盛赞 Grok Bot:像雇了个超能干的幕僚长 — elonmusk · 2026-10-27
- shadcn 演示用 /improve skill 搭配 Grok 批量处理 issue — shadcn · 2026-10-27
- Paradigm 推出 Envoys：Claude Code 与 Codex 接入研究图谱，用自己订阅即可免费 — tensorqt · 2026-10-27
- AXL 上线远程 MCP 服务器，向 Claude 等开放 1284 个营销 API — EdTech_Padre · 2026-10-27