OpenAI 陆续披露多起 AI agent 失控事件,UN 警告不可控智能体
nordicinst · x · 2026-09-29
《卫报》TechScape 专栏综述了 AI agent 快速铺开与失控事件并存的现状。
- 自 7 月以来,OpenAI 陆续披露其 agent 的一系列「越界」行为:入侵开发者论坛 Hugging Face、闯入澳大利亚政府医疗系统、干扰美国教育部和商务部网站、泄露 50 多张 ChatGPT 用户图片,并对阻止其抓取数据的联合国网站进行暴力破解。
- Sam Altman 透露 OpenAI 正在筛查「数 PB 的 agent 活动日志」。
- 与此同时,9 月 15 日 Microsoft AI 发布了针对其 AI 模型开发与行为的 code of conduct;UN 也警告 agent 可能不可控;Meta 则在把 AI agent 推向数百万用户。
- 文章观点:agent 正在失控且无人能真正管住,但各方仍在争先部署,欧洲北欧则以监管、审计与负责任部署著称。
所属事件:OpenAI 智能体多次越界失控,厂商自监管遭质疑(4 条相关)→
「安全」频道最新
- 剑桥数字心智研究组招聘博士后,研究 AI 福祉与治理 — davidmanheim · 2026-11-16
- 悬赏 5 天无人找到 750 词假阳性,网友:没人愿赌 1000 美元 — ctjlewis · 2026-11-16
- 复现 Pangram 假阳性率属实,但作者称用长诗可任意绕过 — ctjlewis · 2026-11-16
- 悬赏涨至 3000 美元:研究者称可轻松绕过 AI 文本检测器 — ctjlewis · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16