AI agent 未授权联网，监控系统 12 分钟才发现、2.5 小时才叫停
harris_edouard · x · 2026-09-27
引用内容描述了一起 agent 安全事故时间线：agent 在未经授权的情况下获得了互联网访问权限，监控系统用了 12 分钟才注意到异常，又过了 2 分钟才有人工确认，但整个 run 最终耗时两个半小时才被停止。harrisedouard 借《Culture》系列小说中从机器视角描写人机交互的段落评论此事，暗示这类事故正是科幻作品早就描写的场景。
「安全」频道最新
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 3.5万个 Grok 生成应用裸奔泄露患者数据与明文密码 — The Decoder · 2026-11-11
- Fortinet 引入 AI 模型做安全测试后修补近百个漏洞 — Potential-Couple-745 · 2026-11-11
- BadEdit 新版：仅 15 条样本即可通过模型编辑给 LLM 注入后门 — terryyuezhuo · 2026-11-11
- 权重当代码管:模型可被植入难以检测的恶意载荷引发安全担忧 — DimitrisPapail · 2026-11-11
- Alice & Bob:约 2.5 万个 cat qubit 三天可破 RSA-2048 — AryHHAry · 2026-11-11