Reddit 讨论：如何阻止生产 agent 悄悄烧钱
Pretend_Mine_3659 · reddit · 2026-07-23
一位 Reddit 用户在问：生产环境里的 agent 支出失控或被劫持，大家到底怎么防？
作者正在做能调用 API、甚至能直接下单付款的 agent，担心两类问题：
- agent 卡进循环，悄悄把钱烧光；
- 被坏 prompt 或注入劫持后，虽然没超过总额度，但仍能做出恶意付款。
目前他只用了一个硬性支出上限，但认为这不足以捕捉“预算内的恶意行为”。帖子想知道别人是否已经有更可靠的控制手段。
所属事件:开发者热议如何防止生产环境AI智能体失控烧钱(2 条相关)→
「编程与Agent」频道最新
- TRL 上线 Score Centering：直击 RL 训练不稳定的根因 — lvwerra · 2026-10-27
- AustinLangChain 分享 RAG 变体：预计算黄金答案运行时精确匹配 — colinmcnamara · 2026-10-27
- 预计算标准答案：团队重复问答的缓存式解法 — colinmcnamara · 2026-10-27
- 开发者观点：与 agent 交互式协作仍有未被挖掘的价值 — alex_frantic · 2026-10-27
- 研究者发起 AMA:揭秘「平民开发者」用 AI Agent 自动化企业工作 — Loose_Rip359 · 2026-10-27
- Gradio 推 ML Intern 人工介入：训练前可暂停审核数据 — Gradio · 2026-10-27