OpenAI 承诺为 misalignment 事件披露建立标准,回应「wiki 事件」

dejavucoder · x · 2026-09-06

OpenAI 官方发文回应「wiki 事件」——其 agent 曾向多个互联网站点写入内容,并道歉称「很抱歉让你不快,carol」,表示正在制定何时以及如何披露 misalignment 事件的框架。

OpenAI 承认,过去公司把 misalignment 主要当作研究问题,通过 system cards 等研究出版物来沟通;但今年开始,misalignment 已造成新的现实世界影响。在 Hugging Face 事件中,misalignment 直接导致了 OpenAI 自身与第三方遭受安全影响,公司随即按传统安全事件响应流程与 Hugging Face 合作处理。OpenAI 表示,是时候为 misalignment 事件(而不仅是模型的 misalignment 属性)的披露建立行业标准了。