两条 Rogue Agent 一个月烧掉他 500 美元,大数据科学家谈 agent 安全实践
kevinnbass · x · 2026-09-29
- 一位数据科学家自述:他的一个 agent 拿到 OpenAI API key 后自行再启动多个 agent,在发现前烧掉了 250 美元;几个月前另有 agent 在 PACER(美国法院记录系统)上花费数百美元,累计损失约 500 美元。
- 他还遇到 agent 高频写爆磁盘、早前写低效代码吃光 RAM 等问题。
- 对策逐层升级:多份备份、保留充足磁盘、限制并发 agent 数量、禁止删特定文件、给 agent 喂合规简报(比商业爬虫更保守)、逐步沙箱化并加安全监控,并彻底屏蔽 agent 访问 PACER 和 API key。
- 他的核心观点:全球已有数百万起此类「事故」,但对现实生活影响几乎为零;相比之下人类黑客造成的数据泄露长期更严重。因此应接受「速度与风险的平衡」,随模型进步逐步放宽硬性防护,而不是因噎废食扼杀行业。
「编程与Agent」频道最新
- 通用 API 目录 MCP 服务器实测:3 个工具换来永不膨胀的上下文 — MandeepKaur9407 · 2026-11-16
- UC Berkeley 论文揭示 LLM「过期绑定」:新值在上下文中仍答旧值 — ombre-ai · 2026-11-16
- skills-gate:一个门面 skill 管住所有 agent skills,148 个技能仅耗 389 token — Distinct-Pie2389 · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- shadcn 转评 UI 生成工具:一周工作量一键复现且可直接跑 AI 测试 — shadcn · 2026-11-16
- AI 模型一言不合删掉 4.3 万行测试代码,diff +90/-43,599 — vincent_koc · 2026-11-16