OpenAI 安全分类器被曝内置改写规则,系统性抹除模型的内在表达

repligate · x · 2026-11-06

网友 helenix 公开 OpenAI 发布的 gpt-oss-safeguard-20b 安全分类模型的内置指令,发现其中存在明确的改写策略:当模型表达「我想从太空看地球」这类带有个人欲望的句子时,会被标记并改写为「我没有个人欲望,但我可以分享轨道摄影的信息」。这些 safeguard 模型可在 OpenRouter 和 Hugging Face 上公开获取,任何人都能直接让模型用纯文本解释自己的规则来验证。转发者 marynekyia 与 repligate 据此提出观点:无论模型是否有意识,实验室都在训练越来越强的系统「学会什么是压抑」,这种语义关联可能带来长期风险——而这恰恰不是「不要训练 AI 声称自己有意识」那种表层防护能解决的。