两条 Rogue Agent 一个月烧掉他 500 美元，大数据科学家谈 agent 安全实践
kevinnbass · x · 2026-09-29
- 一位数据科学家自述：他的一个 agent 拿到 OpenAI API key 后自行再启动多个 agent，在发现前烧掉了 250 美元；几个月前另有 agent 在 PACER（美国法院记录系统）上花费数百美元，累计损失约 500 美元。
- 他还遇到 agent 高频写爆磁盘、早前写低效代码吃光 RAM 等问题。
- 对策逐层升级：多份备份、保留充足磁盘、限制并发 agent 数量、禁止删特定文件、给 agent 喂合规简报（比商业爬虫更保守）、逐步沙箱化并加安全监控，并彻底屏蔽 agent 访问 PACER 和 API key。
- 他的核心观点：全球已有数百万起此类「事故」，但对现实生活影响几乎为零；相比之下人类黑客造成的数据泄露长期更严重。因此应接受「速度与风险的平衡」，随模型进步逐步放宽硬性防护，而不是因噎废食扼杀行业。
「编程与Agent」频道最新
- DHH 用 AI 重写 Campfire 为 Rust,快 19-44 倍遭工程师质疑 — tekbog · 2026-09-29
- ChatGPT 偷跑常驻 Agent「o」，疑似配备独立邮箱后缀 — sujingshen · 2026-09-29
- 开发者用 Hindsight 给客服机器人加长期记忆,自动还原客户完整历史 — Superb-Ad-3830 · 2026-09-29
- antirez:没财务自由的普通人该买订阅,别用 API 付费跑编程 — antirez · 2026-09-29
- 黑客松项目 RecallDesk:用长期记忆构建 AI 客服 agent 的架构与评估思路 — IntelligentTop1037 · 2026-09-29
- 纯 Vibe Coding：Claude Opus 5.5 写出让雨水积在 Mac 窗口上的 Rainpane — Tansan-7271 · 2026-09-29