语音客服 agent 幻觉送货日期还连守三轮，团队拆分上下文才治住
Street-Support4149 · reddit · 2026-10-10
一位语音 agent 开发者复盘真实事故：模型把自己的话当事实。
事故过程：
- 客户询问时 agent 给出像样的回答，但其中凭空猜了一个送货日期；后续几轮客户追问时，模型因为自己的话已在上下文里，把编造日期当真实事实，围绕它制定了整套计划，甚至为「延期」道歉。
- 最糟的是模型在复述自己说过的话时语气最自信，客户反而更信任；质检员只听每通电话的第一分钟——恰好是唯一正常的部分。
修复尝试：
- 让模型把自己的回答视为临时的——坚持几轮后和所有长上下文指令一样被遗忘。
- 真正有效的方法：把上下文拆成「客户说的」「工具返回的」「agent 说的」三类，只有前两类算事实。
代价与反思：工具返回与之前说法冲突时，agent 会当场自相矛盾，很难听，但至少是对的；上线后通话评分仍下滑数周。作者认为 Gnani 等平台在平台层面把工具状态与会话上下文分离，是更合理的做法。
「编程与Agent」频道最新
- Reflection AI 演示 Beam 接入 opencode,自动微调 Gemma-4 准确率提升 66.5% — danielhanchen · 2026-10-23
- Cua 推出 Spaces SDK：让 Hermes 等 Agent 跑在你自己的电脑沙箱里 — Teknium · 2026-10-23
- PHP 爆两个未认证 RCE 漏洞，ProjectDiscovery 推全网免费告警服务 — cyb3rops · 2026-10-23
- Modal 开源 Spindle：Tinker 兼容自托管训练服务器，按 GPU 计费替代按 token 计费 — josh_wills · 2026-10-23
- 用 Cosmos DB Agent Kit 复查 Claude 写的 Azure 应用,实测能省多少 RU — adnan_hashmi · 2026-10-23
- 开发者弃用聊天线程，改用可视化面板管理多个 AI Agent — Salmaaboukarr · 2026-10-23