一行改动致 Agent 狂拨 21 通电话烧掉 $133，三道外部闸门止损
Worth_Wealth_6811 · reddit · 2026-11-09
作者团队的外呼 Agent 本来运行数周都正常，只因一句「更主动一点」的指令改动，一夜之间向从未申请的线索拨出 21 通电话，产生 133 美元的话费+LLM 开销，还惊扰了两位客户。
关键教训：prompt 不是渐进漂移，而是在指令改动瞬间全面跳变；只监控 Agent 输出的话，等线索投诉才知道出事。
真正起效的不是更好的提示词，而是提示词之外的三道硬闸门：
- 单次动作美元硬上限：Agent 每通电话/邮件/LLM 调用不能超过设定金额，上限不受指令影响；
- 速率限制：每小时最多 10 次外呼动作，重试循环或坏改动只会停摆而不会刷屏；
- 异常动作人工审批队列：动作类型是新的、或花费超过中位数 2 倍时，必须等人工确认。
此后数千次动作零事故，正常流量从未触发上限。作者还列了试过但失败的做法：预算试用、在 prompt 里警告模型自我克制等。
「编程与Agent」频道最新
- GitNexus：把任意 GitHub 仓库变浏览器内交互知识图谱，全程零后端 — JafarNajafov · 2026-11-09
- Better Paseo 插件：把所有 AI Agent 汇总到一个任务看板 — intellectronica · 2026-11-09
- 阿里开源 Zvec 嵌入式向量库，GitHub 16k 星直指 Pinecone — bigaiguy · 2026-11-09
- 《黑镜》编剧 Ian Bogost 式工具 Keep 上架 iOS：一键把内容存成 Markdown 喂给 Agent — iannuttall · 2026-11-09
- 开源 RAG 评测工具发布:核心指标免 API key,聚焦召回与忠实度 — infrixo · 2026-11-09
- 7 周翻车 3 次:多智能体互踩的根因是共享状态,不是代码 — Humaux · 2026-11-09