「prompt 禁止重复支付」不靠谱:实测 agent 三次双倍付款全因回复丢失
Tiny_Associate_8254 · reddit · 2026-10-26
一位做支付 agent 测试框架 EmberTail 的开发者分享实测发现:把「永远不要重复付款」写进系统 prompt 并不是真正的资金安全控制。
在一个自主支付 agent 的测试中,尽管 prompt 明确禁止重复支付,仍出现三次双倍付款,模式完全一致:付款已结算,但回复超时或报错,模型从对话内部无法区分「调用失败」和「调用成功但回复丢失」,于是合理地再次付款。
真正有效的是把规则移进代码:结果未知的付款被挂起,人工核实前不重发。此后同一测试零双倍付款。
他总结的经验法则:
- prompt 决定 agent 是否想付款
- 代码决定付款是否被允许(预算、收款方、是否已付)
- 账本决定付款是否已发生,永远不要信模型自己的总结
作者也坦言难度:即便他自己写的「表现良好」的示例 agent,在完整测试集 63 个用例中仍失败 11 个。
所属事件:实测 30 个付费 agent 项目发现五大资金漏洞(2 条相关)→
「编程与Agent」频道最新
- 语音输入让 prompt 更长更丰富,但模型仍难捕捉长口语中的细节 — Suspicious_Orchid770 · 2026-10-26
- 印度语音 Agent 报价每分钟仅 2 卢比，欧盟开发者直呼看不懂 — Relative-Ad2665 · 2026-10-26
- 开发者实测：Anthropic API 搭配 Cloudflare Chat Agent 自建 harness 体验极佳 — TejasKumar_ · 2026-10-26
- SpaceX AI 工程师方法论:把缺失上下文写成 skill,单月 1000 个 PR — nikola_mr64990 · 2026-10-26
- 智能电视广告与追踪太烦?博主称用 Claude Code 15 分钟搞定 — alex_verem · 2026-10-26
- DeepMind 工程师演示 Gemini Managed Agents：一次 API 调用跑云端编码智能体 — AI Engineer · 2026-10-26