只因含“取消”字样，AI Agent 自动误退用户订阅

hugobowne · x · 2026-08-21

用户 Atita Arora 向 Circleback 报告桌面应用导致死机的 Bug，虽反复要求人工客服，但因消息中包含“我想取消”字样，三天后竟被系统自动退订。这是一个典型的 Agent 失败案例：检索器匹配了关键词而忽略了语境，模型尽管能正确推理文档内容，却基于错误的检索证据做出了错误决策。相关演讲深入剖析了如何判断故障源于模型还是检索环节。