瑜伽工作室聊天机器人架构：多模型路由与低成本记忆方案
omi0009 · reddit · 2026-08-03
开发者分享了为越南某瑜伽工作室构建生产级聊天机器人的架构与选型经验。该应用不仅处理预约，还涵盖情感辅导、健康建议和 FAQ。系统需服务 200 名活跃用户，每月约 6k-8k 条消息，预算控制在每月 5 美元以内，并要求跨会话记住用户历史。
核心架构与选型：
- 意图路由： 用户消息经由 FastAPI Webhook，从 MongoDB 获取历史记录后进行意图识别。
- 多模型协同： 采用 Llama 3.3 70B 处理深度情感辅导，GPT-OSS 20B 处理严格的 JSON 预约与工具调用，Llama 8B 处理常规 FAQ。
- 记忆机制： 短期记忆提取最近 20 条消息，长期记忆依赖用户资料与摘要，并探讨了是否需要引入向量数据库（如 Pinecone/Qdrant）进行语义检索。
- 高可用设计： 包含针对 API 限流的指数退避机制、模型降级链（70B -> 20B -> 8B）、断路器以及日历同步失败的重试队列。同时加入了 Prompt 注入防护和 PII 脱敏。
「编程与Agent」频道最新
- 从 GPT-4o 迁移至 GPT-5.1：RAG 智能体输出风格发生退化怎么办？ — IncreaseLocal2574 · 2026-08-03
- 利用 MCP 在 Codex 中无缝调用 GlobalGPT 处理写作与视频生成 — thetripathi58 · 2026-08-03
- 开源技能：自动观看视频并生成结构化笔记 — Roger_M_Taylor · 2026-08-03
- Java开发者30分钟构建AI Agent：无需Python — deepakatl1981 · 2026-08-03
- OpenRoboto 开源机器人挑战赛：微调 π0.5 赢取代币奖励 — const_reborn · 2026-08-03
- GitHub项目OpenCode：编排7个专业智能体并行处理代码 — tom_doerr · 2026-08-03