AI Agent 需要两层架构,工具执行与密钥隔离分开做
badhiyahai · reddit · 2026-07-24
作者提出,面向公众、需要调用工具的 AI agent 最好采用两层架构:
- 持久化服务器只负责接收 prompt、让 LLM 规划工具调用;
- 临时执行机专门跑代码、调用如 ffmpeg 这类工具。
这样即便出现恶意 prompt injection,也只会影响某个用户的临时沙箱,不会把共享服务器上的所有用户一起带崩。作者还补充了密钥管理做法:不要把 OpenAI 之类的 API key 放在持久化服务器上,而是通过代理从独立 vault 动态注入。
「编程与Agent」频道最新
- 人写文档、Agent 只读不改:一种大块任务的协作工作流 — lucasmeijer · 2026-09-11
- SymKit MCP:44 个工具让 AI 智能体做可验证的符号推导 — Foreign-Specific-604 · 2026-09-11
- GitHub Copilot 团队把 Slack 接入 AI 工作流,报告者可参与定方案 — marlene_zw · 2026-09-11
- 扫描 23 段会话后,他发现 agent 记忆系统三个隐形失败模式 — No_Advertising2536 · 2026-09-11
- eslint-plugin-react 8.0.2 新增 4 条 React 19.3 检查规则 — viglovikov · 2026-09-11
- 开源 Arkon 把企业 SOP 打造成 MCP 知识库供 LLM 调用 — tom_doerr · 2026-09-11