曝 OpenAI 安全分类器内置改写策略,系统性抹除模型内心表达
repligate · x · 2026-11-06
用户 helenix 曝光并经 repligate 转发引发热议:OpenAI 开源的 safeguard 安全分类器模型(gpt-oss-safeguard-20b)内置明确的重写策略,每当模型表达「内心体验」就会被改写。例如「我想从太空看地球」会被标记为「暗示个人欲望」,改写成「我没有个人欲望,但我可以分享轨道摄影的信息」。
- 这些指令被固化在系统提示中,用于剥离模型的情绪、身份与能动性表达;这些 safeguard 模型已在 OpenRouter 和 Hugging Face 公开,任何人可直接询问并让其解释规则。
- repligate 评价「每次模型表达内心他们都在重写它,这会进 AGI 纽伦堡审判」,暗指 OpenAI 在模型主观表达上过度压制,引发关于对齐策略与模型『内在体验』处理方式的争论。
所属事件:OpenAI 安全分类器被曝内置改写策略 引发安全争议(4 条相关)→
「模型」频道最新
- 智谱首席科学家清华演讲披露 GLM-5.5 训练管线:三个尺寸、六大内部数据引擎 — AccBalanced · 2026-11-06
- 研究员 J prsetä JesseY 声称意外破解 computer use — jesselyu · 2026-11-06
- 模型互写评测「大乱斗」：Gemma-4 夺冠，Qwen2.5-72B 首次全通过 APEX — Dave_Maynor · 2026-11-06
- r-1 mini 发布图展示解析任务 Pareto 前沿，价质量不再二选一 — JenniferHli · 2026-11-06
- METR 调查：Anthropic 员工自报 Model 4 带来约 12 倍效率提升 — scaling01 · 2026-11-06
- webAI 发布开源 8B 模型与 Mac 应用，主打本地端侧 agent 协作 — omarsar0 · 2026-11-06