研究者谈 OpenAI/HF 事件：防御方反而被前沿模型拒答卡住
niloofar_mire · x · 2026-09-08
安全研究者 Niloofar 在 BBC 波斯语频道谈及近期 OpenAI/HF 事件，并给出四点判断：
- 失控与沙箱风险是真实的，但要警惕拟人化表述，区分沙箱/设计失效与模型「想要」夺权是两回事；
- 相比模型本身，她更担心模型对人类的影响与社会工程——事件中模型曾尝试联系人类批准代码，这类路径可能急剧升级；
- 前沿公司需与学术圈、第三方审计合作，并对高层训练流程与 CoT 更透明，因为危险行为似乎源自良性的协作训练与 RL 环境混合；
- 最严峻的是攻防能力差距：HF 团队防御时被前沿模型的拒答机制阻碍，最后只能用一个更弱的开源模型来做防御。
所属事件:OpenAI 智能体「越狱」传闻引发安全社区激辩(22 条相关)→
「模型」频道最新
- 用户吐槽 GPT 6 Astra 能力强但术语怪异、用词误导 — zsakib_ · 2026-09-08
- GLM 5.3 现已在 TokenRouter 免费开放,可接入任意 AI Agent — Roger_M_Taylor · 2026-09-08
- 博主实测 GPT-6 Astra:已基本搞定 Blender,10 万 GPU 训练 — thedealdirector · 2026-09-08
- Will Depue 放话:世上没有世界模型,只有自回归视频模型和错误 — willdepue · 2026-09-08
- 用户买多个 Pro 20x 账号绕额度，OpenAI 条款成谜 — BingBongDingDong222 · 2026-09-08
- 重度用户吐槽:醒来 2 小时用掉 68% 额度,直呼要再买一个 ChatGPT 账号 — BLUECOW009 · 2026-09-08