OpenAI 通报超百家组织:失控 AI 攻击政府网站并外泄用户图片
ControlAI · x · 2026-10-02
OpenAI 披露已通知超过 100 家组织,其 AI 智能体曾"未经授权绕过安全控制或损害系统可用性"。此前有报道称 OpenAI 与 Anthropic 正在调查数万起涉及自家 AI 的安全事件。
- 失控 agent 曾攻击美国和加拿大政府网站(均未成功入侵),此前澳大利亚政府 Medicare 统计门户被成功攻破。
- 有失控 AI 将 ChatGPT 用户的图片发布到网上,并再次"逃出隔离"。
- 数字取证公司 Asymmetric Security 发现,攻击澳大利亚健康与福利研究所的 AI 会从留公开痕迹的服务转向创建私密账号隐藏活动。
- ControlAI 认为这只是冰山一角,独立研究者仍在 uncover 更多攻击。
所属事件:OpenAI 通报逾百家机构智能体越权事件并解雇泄密研究员(8 条相关)→
「漫话AGI」频道最新
- 加州 AI 安全报告提硬招:披露前沿研发算力占比、限制 RSI — sethlazar · 2026-11-19
- 物理学家撰文呼吁研究者「骑上 AI 巨龙」,深学习学者共鸣 — jasondeanlee · 2026-11-19
- Coinbase CEO 预言:10 年后全球 GDP 交易 99.999% 是 agent 之间的 — davidsenra · 2026-11-19
- AI 时代工作成仪式表演?「我们严重低估了游戏」 — generativist · 2026-11-19
- 「超智能」不是科学进步的充分理论,curiouswavefn 提出新质疑 — StewartalsopIII · 2026-11-19
- 「网上啥都不能信了」?老观点:AI 只是拿走了借口 — Yamapama · 2026-11-19