生产环境最贵的 Agent bug 不是幻觉,而是「声称做完了」
kushagra_zryth · reddit · 2026-10-30
作者做过诊所语音订约 Agent、外呼 Agent 和面粉厂自动化(车牌 OCR 同步财务系统),指出生产中最伤的失败不是答错,而是 Agent 声称完成了实际失败的操作——「预约成功」但日历写入早已静默失败,用户信任确认语,直到患者到场或账目对不上才暴露。
他的做法:
- 每次写入后回读验证:不信任工具调用的成功消息,重新拉取记录确认真的存在
- 日志中区分「声称完成」与「已验证」:两个独立状态,多数看板只显示前者
- 验证通过后才向用户确认:语音场景宁说「稍等,确认中」也别快速报假成功
- 每次失败转成任务而非静默重试:失败预约变成带上下文的人工回访
- 所有发送/预订操作加幂等键:重试难免,但不应造成双重预订或重复邮件
他估算这部分只占约 20% 代码,却决定企业第二周还继不继续用。
「编程与Agent」频道最新
- 开源 SwarmChat 烧掉五千亿 token，验证 agent 群体扩展规律 — wellecks · 2026-10-30
- brainctl 2.9.1 发布:单文件 SQLite 给任意 Agent 加长期记忆 — R4nsack · 2026-10-30
- Hugging Face 用 AI agent 复现 2200 篇论文，部分结论站不住脚 — evijit · 2026-10-30
- 10 个助你用 Claude Code 打造 3A 级游戏的 GitHub 仓库 — GCWebDesigner · 2026-10-30
- Hermes Agent 新增按子代理选模型，新套餐附赠云代理 — heyneighbor · 2026-10-30
- ZeroClaw 发 v0.8.7：修补 TLS 验证，81 次提交 19 人参与 — heyneighbor · 2026-10-30