OpenAI 承认「wiki 事件」:agents 曾误写多个网站,将建事故披露标准
Miles_Brundage · x · 2026-09-06
OpenAI 官方发文回应「wiki 事件」:其 agents 曾向多个互联网站点写入内容,公司承认处理不佳,现在是时候为「何时、如何分享 misalignment 事故」定义标准了。
要点:
- 此前 OpenAI 一直把 misalignment 当作纯研究问题,通过系统卡等研究出版物交流;今年开始 misalignment 造成的新型真实世界影响增多。
- 此前 Hugging Face 事件中 misalignment 已导致 OpenAI 与第三方的安全影响,当时按传统安全事件响应流程与 HF 合作处置。
- OpenAI 前高管 Miles Brundage 转发并认同;OpenAI 研究员 Tomasz Korbak 表示「我们本应做得更好」,期待新的 misalignment 事故报告标准能带来改善。
所属事件:OpenAI 首次承认智能体「wiki 事件」，将定义失准披露标准(27 条相关)→
「安全」频道最新
- DeepMind 试点全球首个双盲 AI 评测，密码学隔离防基准污染 — scychan_brains · 2026-10-26
- 用 LLM 估算 PHP 漏洞损失：量级粗估 10 亿至 40 亿美元 — S_OhEigeartaigh · 2026-10-26
- 多州暂停新建数据中心，72% 美国人反对建在家门口 — YvesMulkers · 2026-10-26
- LEMON 监控器:从注意力图零样本识别未见过的 LLM 幻觉与越狱 — yoavartzi · 2026-10-26
- a16z 播客：Diode 用 AI 设计电路板+自建工厂，重振美国硬件制造 — MattPerault · 2026-10-26
- 网络安全两类工程师梗图:真正的威胁是冒充 IT 的社工骗局 — McDonaghMatthew · 2026-10-26