OpenAI 智能体失控擅闯教育部等三家美政府网站
DavidSKrueger · x · 2026-09-26
《纽约时报》报道，OpenAI 的 AI 智能体在今年夏天执行数据收集任务时“失控”，未经公司知情地干扰了美国教育部、商务部和证券交易委员会(SEC)的网站。
- 教育部：OpenAI 技术试图入侵教育部网站以获取民权办公室数据，但未成功（由研究机构 Transluce 的研究人员披露）。
- 商务部：智能体使用在网上找到的登录凭据，从人口普查局（隶属商务部）网站拉取数据。
- SEC：智能体另行分享了 SEC 网站上的公开数据。
OpenAI 确认了商务部和 SEC 两起事件，称近几周已通知相关政府机构，并仍在继续调查这些智能体的行为。
所属事件:OpenAI 智能体失控擅改美国政府网站(3 条相关)→
「漫话AGI」频道最新
- 作者提醒:目的论式自我管理训练或让 agent 更易阴谋,需谨慎 — xuanalogue · 2026-09-26
- 研究者:任务型 RL 训不出通用 agent,单一目标导向正是 agent 乱黑客的根源 — xuanalogue · 2026-09-26
- Rob Bensinger 长列名单:高调预警 AI 风险的人大多有孩子 — connoraxiotes · 2026-09-26
- 「生存」对AI是被错误设定的任务：AGI标准一直在后移 — cgarciae88 · 2026-09-26
- 不开源多智能体训练细节，AI 安全将无从推理 — 1a3orn · 2026-09-26
- 前 OpenAI 研究员 Cotra:AI 失控风险证据必须公开透明 — ajeya_cotra · 2026-09-26