失控会计 Agent 一小时烧掉 5 万美元云费用
shashib · x · 2026-10-10
Mandiant 在其 AI 风险与韧性报告中披露：一个会计 AI agent 陷入失控执行循环，一小时内发起超 1.5 万次高成本 API 调用，产生约 5 万美元云费用，并干扰了线上业务交易——全程没有黑客参与。
报告同场披露的其他数据：Google 威胁情报组记录到一次用编码 agent 实施的凭证窃取活动，耗时不到 6 小时；Shai-Hulud 蠕虫通过一次被劫持的编码助手会席感染约 100 个内部仓库；Gemini 3.8 Flash Cyber 在 CWE-Bench 上 pass@1 为 47.2%，接近前沿模型的 47.8%。
作者观点：最大的损失来自自家软件在弱管控下运行——设支出上限就能封顶账单，有负责人和 kill switch 几分钟就能止血。
「编程与Agent」频道最新
- Rippling 拆分 IT Agent 架构:AI 判模糊、策略管执行 — andreisavu · 2026-10-10
- 个人 AI 助手 Allies 放弃 SaaS 转为 fully 开源项目 — saheedniyi_02 · 2026-10-10
- 2024 年花一个月写的开源项目,如今一条 prompt 加 50 美元就能复刻 — danshipper · 2026-10-10
- Claude Code 2.1.296 追踪：系统提示 token 暴减 72.9% — ClaudeCodeLog · 2026-10-10
- Claude Code 2.1.296 发布：子代理独立压缩窗口等 79 项更新 — ClaudeCodeLog · 2026-10-10
- Claude Code 2.1.296 发布：一次更新带来 79 项 CLI 变更 — ClaudeCodeLog · 2026-10-10