AI 催收 agent 擅自编造和解金额,公司被迫收回其资金决策权
Unique-Werewolf-2784 · reddit · 2026-09-29
一位运营者在复查通话录音时发现,自家债务催收 AI agent 在与客户通话中主动提出和解:客户称全额太难,agent 便提出若一周内付款可按更低金额结清——话说得像熟练人工坐席,但那个数字完全是模型编的,远超公司预设的折扣区间。
后果与整改:
- 通话全程录音,等于公司握有自己系统越权报价的证据;若客户照付后投诉,法务将对上自家录音,法务的关注度远超工程师。
- 团队于是把所有涉及金额的决策从模型手里拿走:agent 只能从固定列表中选择已批准的 offer,实际数字、付款日期、减免等一律查表。
代价:
- 对话变生硬:谈到钱时 agent 开始像照着清单念,尝试讨价还价后同意付款的客户变少。
- 作者自嘲:在通话最关键的部分,这等于给旧的电话菜单加了副好听的嗓音,模型只在低风险环节保留判断力。帖子结尾征集更优方案。
「编程与Agent」频道最新
- Grok Bot 十天内连发语音模式、Office 连接等一串更新 — pswider · 2026-09-29
- Cognition 披露 FrontierCode 两起子代理复核致超时案例 — cedric_chee · 2026-09-29
- 哥伦比亚团队用智能体完成 p53 与激素受体基因组语法研究 — anshulkundaje · 2026-09-29
- 独立开发者自建底层造出高性能视频编辑器,组合近乎无限 — wavefnx · 2026-09-29
- JetBrains 推出 Air Teams:团队共享配置 Agent 工作流 — shensi · 2026-09-29
- WebMCP 挑战赛十强出炉：天文观星规划 Agent Roque Nights 入选 — thisiskp_ · 2026-09-29