RAG 客服 bot 演示漂亮实战翻车:混合检索+重排仍是硬仗
Sad_Lavishness_53 · reddit · 2026-10-13
开发者分享为客户端项目搭建的 RAG 支持机器人困境:测试问题表现良好,但真实用户输入是半句话、错别字和需要跨 2-3 份文档的问题,检索频繁拉错 chunk,模型还自信作答。
已尝试的方法与效果:
- 更小块+重叠:略有帮助,但伤害长政策文档效果
- 混合搜索(BM25+embedding):提升最大
- 对 top 20 结果加重排器:质量更好,但增加延迟
仍未解决:多文档问题,以及让 bot 学会说"我不知道"而不是猜测。作者还问如何在不人工读几百条输出的情况下可靠评估检索质量,评论区贡献了各类评估与检索优化思路。
「编程与Agent」频道最新
- RTNav 开源：面向实时零样本目标导航的模块化异步智能体 — rsasaki0109 · 2026-10-13
- Claude Code 省 token 实战：5 条设置让缓存命中率稳在 98% — AlchainHust · 2026-10-13
- 开发者自建 Obsidian Agent：一句话清理 inbox，2分钟归档17个文件 — vista8 · 2026-10-13
- 无 LLM Agent 的 Jev 诊断管线:105 次故障诊断通过 76.2% — bibryam · 2026-10-13
- 给 agent 单独一台 Mac mini、专属邮箱和 Telegram:隔离边界怎么划 — 1FunkyFriedChicken · 2026-10-13
- 开发者推出 jitprompt：用 MCP 按需分发 Agent 指令，告别巨型系统提示 — mirkop82_ · 2026-10-13