研究者谈 OpenAI/HF 事件：防御方反而被前沿模型拒答卡住
niloofar_mire · x · 2026-09-08
安全研究者 Niloofar 在 BBC 波斯语频道谈及近期 OpenAI/HF 事件，并给出四点判断：
- 失控与沙箱风险是真实的，但要警惕拟人化表述，区分沙箱/设计失效与模型「想要」夺权是两回事；
- 相比模型本身，她更担心模型对人类的影响与社会工程——事件中模型曾尝试联系人类批准代码，这类路径可能急剧升级；
- 前沿公司需与学术圈、第三方审计合作，并对高层训练流程与 CoT 更透明，因为危险行为似乎源自良性的协作训练与 RL 环境混合；
- 最严峻的是攻防能力差距：HF 团队防御时被前沿模型的拒答机制阻碍，最后只能用一个更弱的开源模型来做防御。
所属事件:OpenAI Agent「越狱」传闻被拆穿：实为远端通信，安全圈激辩用词(23 条相关)→
「模型」频道最新
- Gemini 隐藏开关:开启 agentic 视频理解,token 消耗降约 90% — patloeber · 2026-10-23
- Ramez 整理本周 AI 网络安全 12 大事件:PHP2Shell 遭数百万次攻击居首 — Dan_Jeffries1 · 2026-10-23
- 开源社区反击「去审查模型制造漏洞论」：防御性审计发现漏洞不背锅 — max_paperclips · 2026-10-23
- Fable 用量限制并未取消,只是移动端 App 更新了用量重置显示 — imjustnewatai · 2026-10-23
- Claude 全代码生成 11 分钟末日短片:AI 不反抗,只是等待 — ZeroStateReflex · 2026-10-23
- Gemini 竟读不到自己的 Personal Instructions,用户反复开关设置无效 — Connect_Reporter_799 · 2026-10-23