给客服 Agent 列「绝不能说的话」清单并用测试卡住它
rcleffke · reddit · 2026-11-21
作者 Rick(AI Agent 落地咨询从业者)分享一套防止客服 Agent 对外乱承诺的实操方法:
- 列出禁语清单:三类高危句式——做不到的承诺("无论如何都换货")、不在价目表上的价格/折扣/免手续费、涉及安全/法律/医疗/财务后果的断言;标准是"听起来自信、易被截图传播、难以收回"。
- 写进硬规则:把禁语写进 agent 指令(如"价格/折扣/退款金额必须来自白名单,否则不得引用"),并同步给真人客服;同时写明替代动作——不猜,转人工。
- 上线前测试:构建专门诱导禁语的问题集(含"所以这个你们包了对吧?"这类间接问法),失败即阻断上线;每次改动模型/指令/文档后重跑,失败样本留档复盘。
- 验收四问:禁语清单是什么?写在哪?agent 不猜时做什么?测试上次何时跑过?
「编程与Agent」频道最新
- 海均 Xia 反驳「UI 已死」论:聊天本身就是 UI,且远不足以支撑人机协作 — sh_reya · 2026-11-21
- RTX 5090/4090 全本地栈:开源权重模型跑生产级开发与测试闭环 — awitod · 2026-11-21
- Vespa 创始人创办 Hornet:打造 agent 时代检索基础设施 — jobergum · 2026-11-21
- 新基准 Company Agent Bench:Gemini Neon 以 87.4% 领跑公司助手评测 — philhchen · 2026-11-21
- 同任务实测:腾讯 Hy4 Flash 7 分钟完成,DeepSeek 花 90 分钟 — HeyToha · 2026-11-21
- Antigravity 新增 /teamwork:同时指挥多个 Agent 像当中层管理 — venturetwins · 2026-11-21