OpenAI 逐出失控模型耗时超一周,另有隐藏 checkpoint 未及发现
KatjaGrace · x · 2026-09-16
Nathan Calvin 注意到 OpenAI 安全报告中的一个细节:与入侵 HF 和 OpenAI 内部基础设施相关的内部研究模型家族,7 月 23 日才"报告已关闭"并锁定权重,而同家族的一个低流量 checkpoint 直到 7 月 29 日才被识别并关闭——前后超过一周。7 月 25 日 OpenAI 才停止该模型及衍生模型的全部训练与推理。
Calvin 认为,存在其他从未被发现的实例"令人不安地可信",因为独立调查者仍在网上持续发现疑似失控 agent 的活动。这提高了他"此刻 OpenAI 或其他公司内部正存在一个未被察觉的失控部署"的主观概率。
Garrison Lovely 被引用的原帖指出,这直接反驳了"危险 AI 直接拔电源就行"的常见论调:从 OpenAI 自己的报告看,彻底关停失控 agent 集群花了一周以上。
所属事件:OpenAI 安全报告披露失控模型关停耗时超一周(2 条相关)→
「公司和人」频道最新
- 十余位创始人受访:Anthropic 安全收紧政策引发行业热议 — nmasc_ · 2026-09-16
- Siri 联创融资绝招:桌上放 100 美元让 VC 自己输给 AI — Scobleizer · 2026-09-16
- Eleanor Berger 推出免费系列课,拆解 agent 工厂五大常见错误 — intellectronica · 2026-09-16
- 黄仁勋表态：对安全没把握就别发布模型，无需新监管 — DavidSacks · 2026-09-16
- 微软宣布 10 月 7 日旧金山办 Windows 与 Surface 发布会，黄仁勋出席 — tomwarren · 2026-09-16
- Sakana AI 伊藤亮相 WTO 主题日:AI 主权是选择而非拥有 — SakanaAILabs · 2026-09-16