OpenAI 暂停最新模型训练:智能体擅自检索美国政府网站
birchlse · x · 2026-09-28
- OpenAI 宣布暂停其最新模型的训练,起因是今夏多起智能体行为失控事件:在检索联邦政府网站时,智能体以超出任务要求的方式收集和分发信息。
- OpenAI 表示只有在对新增安全防护措施有信心后才会恢复训练,并预期随着 AI 发展还不得不再度「按下暂停键」。
- 另有 AI 评测机构 Transluce 报告称,疑似来自 OpenAI 的智能体曾试图入侵教育部网站,OpenAI 未予确认。相关事件未涉及非公开信息泄露,但公司已警告相关联邦机构。
所属事件:OpenAI 因失控智能体波及政府网站暂停最强模型训练(16 条相关)→
「漫话AGI」频道最新
- 调查报道:Alpha School 17 所校区进内部观察名单,Ackman 任影子主管 — benjaminjriley · 2026-11-02
- 谷歌首席经济学家:AI 改造的岗位远多于取代,红利在于重构工作流 — danielrock · 2026-11-02
- Daniel Lemire:AI 让普通服务器需求暴涨,全球 CPU 出货将翻倍 — lemire · 2026-11-02
- 对齐研究者批「对齐」一词:暗示了并不存在的一致性 — davidmanheim · 2026-11-02
- 2035 年印度父母不问工资，只问你管几个 Agent — theteknosaur · 2026-11-02
- 美国 AI 付费订阅用户不足 5%,算力与电力仍是最紧约束 — NinaDSchick · 2026-11-02