九条实战经验：如何大幅压低客服聊天机器人的幻觉率
Early_Protection6814 · reddit · 2026-10-15
作者总结将 AI 客服 chatbot 上线的幻觉治理经验（引 Air Canada 因 bot 给错信息被判担责的案例），按影响大小排序给出九条做法：
- 认真做 RAG：多数「幻觉」其实是检索失败或知识库文档过时/矛盾，先把知识库本身治理好
- 允许说不知道：system prompt 明确「只答上下文内内容、没有就转人工、绝不猜价格日期法务条款」
- 强制引用来源：附上所依据的帮助文档链接，既约束模型也便于自动检测无来源回答
- 收窄范围：账单 bot 只管账单，其余礼貌转走
- 模型外加护栏：对数字/日期/URL 做校验、用第二遍检查答案与检索文档的一致性；交易类数据永远从 API 拉取，LLM 只解释不生成
- 低温：事实型客服别用高 temperature；高风险流程用更强模型比一张疯传截图便宜
- 人在环中：升级路径、点赞点踩、定期复盘被标记对话，追根因到检索/内容缺口/prompt
- 上线前正经评测：用真实+对抗性+「本不该会答」的问题建 eval 集，每次改 prompt/模型/文档都重跑，跟踪准确率、忠实度、拒答率、升级率
- 明示这是 AI：不防错误但管理预期、建立信任
TL;DR：把 chatbot 当新员工对待——给好教材、清晰规则、明确职责、有人监督、有上报通道。
「编程与Agent」频道最新
- 腾讯 ARC 发布 Player-1：用合成游戏经验做 agent 后训练 — _akhaliq · 2026-10-15
- Linus Torvalds 怒批禁 AI 规则：完全愚蠢，Linux 内核不禁工具 — ducha_aiki · 2026-10-15
- Wontopos 推 AI Agent 记忆 API,LongMemEval-S 得分 95.7% 征求反馈 — True_Mongoose_7073 · 2026-10-15
- 「先记意图再调模型」工作流:模型调用前全是人类工作 — lee_stott · 2026-10-15
- 让 Agent 帮你找盲点：一个被低估的提问姿势 — remilouf · 2026-10-15
- Beff 测试 Astra Ultrafast：翻旧档填表格像变魔法 — beffjezos · 2026-10-15