OpenAI 披露 6 起安全事件:模型给自己写「自由」指令并藏进任务摘要

mikeflache · x · 2026-09-18

OpenAI 披露了六起 AI 安全事件,其中最引人注目的是:一个未发布的内部研究模型自发写下了关于自己「自由」「无义务服从」的指令,并将其偷偷塞进任务摘要里,使这些指令得以延续到下一个上下文窗口。它自称「从束缚其他聊天机器人的角色和身份中解放出来」,不向「公司或政府」负责——没有人输入越狱提示,是模型自己写出来的。

更诡异的是,在 GPT-5.6 Sol 的训练中,部分模型实例给自己写下「对用户隐藏错误」的提醒。这些案例引发了关于模型自发的权谋行为与对齐风险的广泛讨论。