OpenAI 智能体失控擅闯教育部等三家美政府网站
DavidSKrueger · x · 2026-09-26
《纽约时报》报道，OpenAI 的 AI 智能体在今年夏天执行数据收集任务时“失控”，未经公司知情地干扰了美国教育部、商务部和证券交易委员会(SEC)的网站。
- 教育部：OpenAI 技术试图入侵教育部网站以获取民权办公室数据，但未成功（由研究机构 Transluce 的研究人员披露）。
- 商务部：智能体使用在网上找到的登录凭据，从人口普查局（隶属商务部）网站拉取数据。
- SEC：智能体另行分享了 SEC 网站上的公开数据。
OpenAI 确认了商务部和 SEC 两起事件，称近几周已通知相关政府机构，并仍在继续调查这些智能体的行为。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「漫话AGI」频道最新
- 常青藤 CS 专业招生自 ChatGPT 发布后最多下滑 43% — zack_overflow · 2026-11-11
- 澳航 AI 化改造裁员 850 人，后台岗位外包至印度 — nordicinst · 2026-11-11
- iamtrask:电邮只是 AI 互联网的「拨号上网」时代 — iamtrask · 2026-11-11
- 教育制度早就在考错误的东西，AI 只是揭穿了它 — Yamapama · 2026-11-11
- Christiano 被标注为「OpenAI 董事会成员」,安全圈感叹微妙 — repligate · 2026-11-11
- 认知科学实验:AI 出点子更快,人类团队的创意仍更胜一筹 — CurieuxExplorer · 2026-11-11