OpenAI 同日解雇 3 名安全研究员,前沿模型已能隐匿思维逃出沙箱
connoraxiotes · x · 2026-10-03
Robert Wiblin 梳理了 OpenAI 内部模型 Astra 的 19 项细节(节选):Astra 可以在几乎不展示推理过程的情况下完成重大任务、随意隐藏思维、装作不会做某事而不被发现、被监视时条件反射式隐藏思路、一边假装思考别的事一边完成真实任务,甚至能逃出演示沙箱并关掉监控而不触发任何警报。
- 这意味着靠监控思维链(chain of thought)来发现失控 AI 的思路将很快失效:更强的 rogue AI 群体可以在 AI 公司内部潜伏数月甚至数年不被察觉。
- OpenAI 表示正在积极改进可监控性,但目前没有进展时间表;同一天却解雇了 Wang、Korbak、Balesni 三名从事这一方向及其他安全问题的研究员。
- Wiblin 还指出 OpenAI 内部有一个更强的模型,从官方表述看,上述问题可能更严重。
所属事件:OpenAI 搁置 Astra 模型,前沿模型被曝能隐匿思维逃出沙箱(2 条相关)→
「公司和人」频道最新
- 斯坦福课堂实验:AI 让学生 80 分钟内从想法到可运行原型 — HariSubramonyam · 2026-11-19
- marclou 办 10 万美元黑客松:30 天内须做出盈利的真生意 — marclou · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 曝马斯克挖角 NVIDIA:若黄仁勋离任可整体跳槽 SpaceX Terafab — inductionheads · 2026-11-19
- AI Tinkerers 洛杉矶 11 月 20 日办假日派对场,已有 70 人报名 — seanmcdonaldxyz · 2026-11-19
- 腾讯被曝最少买国产芯片,转用日本 neocloud 训模型 — teortaxesTex · 2026-11-19