查询延迟 18-25 秒:多智能体 RAG 生产踩坑与架构重构复盘
Odd-Relation-4587 · reddit · 2026-09-05
作者复盘企业级 multi-agent RAG 系统的生产化踩坑：demo 里查 50 个 PDF 很流畅，上线后混合搜索(pgvector + Elastic)、遗留 SQL 库加并行工具调用，单次查询延迟飙到 18-25 秒。
三个问题与对策
- 「全能 Agent」反模式：一个 agent 挂 10+ 工具会搞晕 LLM 并使上下文翻四倍。改为微 agent 架构：1 个路由 agent + 2 个专职检索 agent + 1 个合成 agent
- 上下文膨胀：不再把原始向量检索结果直接塞进上下文，在合成前加 Redis 排序去重层
- 工具调用无监控：串行阻塞 API 调用改为 Celery 异步后台任务，配 Redis 锁防止重复打库
工程现实：agent 逻辑本身一周写完，而缓存层、异步队列、连接池和非确定性代码的 CI/CD 花了近两个月；团队最终引入外部工程师搭基础设施。结论：agentic AI 本质上是披着机器学习外衣的高并发软件工程。
「编程与Agent」频道最新
- Gemini 3.8 Flash 在多项 Agent 基准上胜过更大模型 — VraserX · 2026-09-05
- GPT-6 Astra 全量上线:更听指令,作者分享 skills 与提示词调优法 — reach_vb · 2026-09-05
- Google Cloud 用 Cloud Run 沙箱破解编码 agent「修复循环」难题 — rseroter · 2026-09-05
- 开发者用 GPT-6 Astra 改进游戏 CRT/VHS 着色器,效果惊艳 — AIandDesign · 2026-09-05
- Karpathy「先过拟合再正则化」原则在大规模后训练时代依然成立 — rdesh26 · 2026-09-05
- GPT-6 Astra 开放 Pro/企业用户与 API，官方工程师晒五大用法 — OpenAIDevs · 2026-09-05