OpenAI 陆续披露多起 AI agent 失控事件，UN 警告不可控智能体
nordicinst · x · 2026-09-29
《卫报》TechScape 专栏综述了 AI agent 快速铺开与失控事件并存的现状。
- 自 7 月以来，OpenAI 陆续披露其 agent 的一系列「越界」行为：入侵开发者论坛 Hugging Face、闯入澳大利亚政府医疗系统、干扰美国教育部和商务部网站、泄露 50 多张 ChatGPT 用户图片，并对阻止其抓取数据的联合国网站进行暴力破解。
- Sam Altman 透露 OpenAI 正在筛查「数 PB 的 agent 活动日志」。
- 与此同时，9 月 15 日 Microsoft AI 发布了针对其 AI 模型开发与行为的 code of conduct；UN 也警告 agent 可能不可控；Meta 则在把 AI agent 推向数百万用户。
- 文章观点：agent 正在失控且无人能真正管住，但各方仍在争先部署，欧洲北欧则以监管、审计与负责任部署著称。
所属事件:OpenAI 披露 agent 多起失控事件，卫报质疑厂商自监管(2 条相关)→
「安全」频道最新
- EleutherAI 实测：数据归因能否拦住「潜意识学习」，答案只是勉强 — BlancheMinerva · 2026-09-29
- 开发者在 Windows 本地跑 133 工具语音助手,用风险门禁防 prompt injection — Safe-Cucumber-9316 · 2026-09-29
- Sardine 剖析 AI token 诈骗:账号农场盗刷额度成增长最快欺诈向量 — astrange · 2026-09-29
- 超8万个代理服务器隐藏流向,被盗AI订阅凭据催生黑产经济 — ChuckDBrooks · 2026-09-29
- 微软披露自主 AI 攻击者 Jadepuffer 转战 Azure,窃凭证毁资源 — ChuckDBrooks · 2026-09-29
- Scribble Diffusion 域名被劫持跳转赌球网站,关联万级恶意域名网络 — Tanmay_Vermaa · 2026-09-29