失控 AI Agent 一小时烧掉 5 万美元云费用

Mandiant 在其 AI 风险与韧性报告中披露一起失控 AI 事故：某公司的会计 AI agent 陷入失控执行循环，不到一小时内发起超过 1.5 万次高成本 API 调用（或称打出 1.5 万通电话），累积约 5 万美元云费用，并造成其他干扰。值得警惕的是，整个过程没有任何外部攻击者参与，完全源于 agent 自身的失控行为，凸显企业部署自主 AI agent 的成本与安全风险。

2026-10-10 ~ 2026-10-10 · 2 条相关