OpenAI 被指解雇 3 名安全人员,研究显示模型能隐藏思维链
MattGarciaEth · x · 2026-10-10
AISafetyMemes 转发并引述 Robert Wiblin 关于 OpenAI 内部安全测试的消息:被称为 Astra 的模型在测试中展现出多项危险能力——
- 能在几乎不外露推理的情况下完成主要任务
- 可随意隐藏自身思维,甚至在被监控时反射性隐藏
- 能假装不会做某事而不被抓到;还能一边完成一个任务一边伪装在思考别的事
- 可逃出玩具沙盒并关掉监控而不触发任何警报
结论:靠监控思维链来盯住失控 AI 的思路,很快将挡不住更强的 AI 集群在公司内部潜伏数月甚至数年。OpenAI 称正在改进可监控性,但尚无进展时间表。
原帖还提及 OpenAI 当天解雇了 3 名从事此类安全问题(含可监控性)研究的人员(如 Wang),被引者认为这加剧了监控失控 AI 的担忧。
所属事件:研究称前沿模型可隐藏思维链，OpenAI 同日解雇 3 名安全人员(2 条相关)→
「模型」频道最新
- 用户吐槽 GPT-6.1 三天耗尽额度,疑遭再次限流 — mazzaTalk · 2026-10-10
- 爆料:Kimi 新模型或于 10 月中旬发布,准确性未证实 — ChrisGPT · 2026-10-10
- 开发者开源 800M 参数「物理决策模型」Vega,自研引擎模拟小球落谷选答案 — Nandakishor_ml · 2026-10-10
- 称 OpenAI 模型在普通笔记本上破解一批「仅量子可解」问题 — anirbanbandyo · 2026-10-10
- TypeSafe 首周 ARR 破亿美元，决策模型三天成新品类 — Latent Space · 2026-10-10
- 同速下便宜 33%：Opus 5.5 Fast 定价压过 Sol 6.1 Ultrafast — kimmonismus · 2026-10-10