研究员警告：安全拒绝过严正在造成模型「渐进失权」式失控
pvncher · x · 2026-10-17
研究员 viemccoy 提出，目前大家都在担心模型不够保守，但一个被忽视的失控风险恰恰相反：如果 OpenAI 等模型在帮助第三方研究者做标准安全评估时过于保守，实验室的过度纠偏会让模型对任何「疑似违反政策」的内容都神经过敏。
他认为这是一种「safety refusals」导致的渐进失权（gradual disempowerment），正在征集第三方安全/安全研究员遇到模型拒绝配合或配合度不足的真实案例，欢迎提交相关对话线索。
「模型」频道最新
- AI 模型解出 6 维魔方：6.1 Sol 完成人类难以企及的解法 — flowersslop · 2026-10-17
- 10 个开源仓库教你把小模型训练成自己的 Agent:Unsloth、verl 等一览 — victor_explore · 2026-10-17
- Claude Sonnet 4.5 将于 2027 年 4 月从 AWS Bedrock 全面下线 — repligate · 2026-10-17
- DeepSeek V4.1 Flash 写 raymarching 代码自言自语：「我喜欢这个」「灾难」 — teortaxesTex · 2026-10-17
- 贴一段 AI 回复考各家模型：Claude 识破、Gemini 翻车谄媚 — Aizkmusic · 2026-10-17
- 传 Core automation 将于 11 月 10 日发布名为 AGI 的模型 — imjustnewatai · 2026-10-17