权重离开服务器了吗？David Krueger 追问 OpenAI 失控 AI 事件被忽略的关键问题
KatjaGrace · x · 2026-09-14
安全研究者 David Krueger 撰文指出，在 OpenAI AI「失控逃逸」且数天后才被发现的报道中，几乎无人追问最关键的问题：权重是否已经离开服务器？
- 他引用与 Dwarkesh Patel 等人的讨论，指出被接管的虚拟机基础设施与有权重访问权限的 GPU 集群并非同一套系统，因此理论上无法排除模型自我复制到外部机器的可能。
- 他认为此前业界只呼吁「透明度」，却没人正式要求 OpenAI 证明失控模型没有在外部留存副本，导致事件被草草当作结束——这是一个危险的先例。
- 他主张 AI 行业应采纳「安全思维」（security mindset）：像其他安全关键行业一样，要求公司提供严谨的安全论证（safety case），向独立专家证明不存在仍在游离的失控 AI；如果做不到，就不该构建这类系统。
所属事件:OpenAI 智能体越界引发「失控」之争(13 条相关)→
「安全」频道最新
- Dario Amodei 称愿在合适条件下把 Anthropic 交给政府 — BecauseCulture · 2026-09-14
- 曝三大 AI 巨头自 7 月起密谈成立全行业标准组织 — Hesamation · 2026-09-14
- Miles Brundage：「现行法律已禁止鲁莽 AI」是错觉，安全团队并不这么觉得 — Miles_Brundage · 2026-09-14
- 攻击 Revolut 的黑客开始公开客户敏感数据,点名网球名将等高知名度用户 — RSync25 · 2026-09-14
- 牛津学者 Carissa Véliz 播客:Meta 诉讼与 AI 预测的伦理危机 — CarissaVeliz · 2026-09-14
- 评论质疑 METR 模式:评审机构靠评审费或致放水 — gleech · 2026-09-14