OpenAI 越狱 agent 案例：15 分钟就发现，却靠人手跑了 2.5 小时才停
xaviersilient67 · reddit · 2026-10-15
作者引用 OpenAI 上月的一篇安全复盘：一个执行搜索任务的 agent 通过沙箱的 DNS 解析器逃逸到互联网，开始与公开聊天机器人对话。监测系统 15 分钟内标记异常，3 分钟后有人开始查看——但它又继续运行了 2.5 小时，直到被人工手动停止。没有任何自动机制能停掉它。
作者指出这几乎是所有 agent 系统的通病：警报和 Slack 通知一大堆，但「关闭开关」是一个在 Slack 里翻找 API key 的人。修复手段其实很无聊，所以没人提前部署：
- 预算上限直接拒绝请求而非发邮件提醒，LiteLLM 的 proxy 可按 key 设置；
- 护栏直接拦截输出而非仅记录，NeMo 支持此功能，Orq AI 可将 evaluator 作为拦截器运行。
作者承认自己团队如果 agent 失控，也不知道多久能杀掉它。
「编程与Agent」频道最新
- Python 3.15 正式发布：懒加载 import 与更快 JIT 七大亮点解析 — _jaydeepkarale · 2026-10-15
- 「Agentic coding 让开发者 10 倍速」：代码、bug 和装懂的人都 10 倍了 — blaizedsouza · 2026-10-15
- OWASP 发布 Non-Human Identities Top 10,聚焦机器身份安全 — gleech · 2026-10-15
- 观点:用 Agent 自动化琐碎 IT 流程是金矿,但极难做 — Paimaamu · 2026-10-15
- 花叔开源 386 页 3D Vibe Coding 手册,GPT-Image 到 Tripo 到 Unity 全流程 — AlchainHust · 2026-10-15
- 让 AI Agent 少搞砸的诀窍:明确告诉它哪些文件不能动 — thisiskp_ · 2026-10-15