生产环境教训:聊天记录不等于 Agent 记忆,直存全量对话是反模式
_jaydeepkarale · x · 2026-09-03
- 核心论点:多数 agent 实现把每条消息都存下并在下一轮 prompt 里塞进完整对话,这是错误做法——对话会膨胀,token 消耗推高延迟,最终不得不在上下文窗口里做各种腾挪。
- 除体积外还有更深的问题:
- 上下文噪声:旧的工具结果、失败尝试、过时信息与有用信息竞争;
- 连续性丢失:新会话开始时 agent 忘掉此前的决策、偏好与任务结果;
- 检索错误:仅靠相似度搜索可能返回错误用户/线程/业务流程的信息;
- 记忆冲突(原文截断)。
- 帖子附带 DeepLearning.AI 与 Oracle 合作的短课《Building Adaptive AI Agents》(约 1 小时),内容涵盖三个适配层:把 agent 的执行轨迹变成可复用技能(人工审核后复用)、构建代码知识图谱替代关键词检索做上下文、以及知识适配机制。
「编程与Agent」频道最新
- ngrok 推出 AI 网关:一个 URL 统一路由本地模型与 OpenAI — anthara_ai · 2026-09-03
- Google 已上线 agent 专用访问设置,应用需为 agent 友好做准备 — 0xsachi · 2026-09-03
- 前沿模型写本地部署方案频频翻车,开发者直指“暗中作梗” — ikilaie · 2026-09-03
- 2 名工程师 3.5 个月用 AI 重建 FedEx 级配送系统核心 — alex_verem · 2026-09-03
- 编码模型数据枯竭?PL 学者提出「意图计算」新范式破局 — LingmingZhang · 2026-09-03
- Cohere 发布 ATE 数据集:收录近 70 万个公开 MCP 服务器工具 — Cohere_Labs · 2026-09-03