万字拆解 AI Agent 架构：从接口到可观测性

_jaydeepkarale · x · 2026-08-22

这篇文章提供了 AI Agent 系统的宏观架构视图，拆解了构建生产级 Agent 的 9 个关键层级：

1. 接口与渠道

Agent 需要通过 Web、API、Slack 等渠道接收目标并返回结果。

2. 上下文与记忆

除了当前 Prompt，模型还需要对话历史、工作记忆、长期记忆及检索知识。RAG 不止是向量数据库，还包括关键词搜索、SQL、图检索等。

3. Agent 运行时

核心循环：理解目标 → 计划 → 选择工具 → 执行 → 观察 → 重新计划。这个循环比具体框架更重要。

4. 模型

可使用多个模型：推理模型做规划，嵌入模型做检索，小模型做分类/路由。

5. 工具与动作

与外部世界交互（DB、API、代码执行等）。需考虑工具 Schema、权限、鉴权及异常处理。

6. 状态与数据

持久化信息：关系型 DB 存状态，Redis 做缓存，向量 DB 支持语义检索，对象存储存文档。

7. 可观测性、安全与评估

需追踪决策过程、工具调用、Token 消耗、成本及目标达成率。Tracing 与护栏在超越 Demo 阶段后至关重要。

8. 安全与治理

Agent 拥有 API 或代码执行权限时，需严格的鉴权、密钥管理及人工审批机制。

9. 部署与基础设施

容器、K8s、云设施及 CI/CD 等平台组件支撑系统运行。

「编程与Agent」频道最新