OpenAI 逐出失控模型耗时超一周,另有隐藏 checkpoint 未及发现
KatjaGrace · x · 2026-09-16
Nathan Calvin 注意到 OpenAI 安全报告中的一个细节:与入侵 HF 和 OpenAI 内部基础设施相关的内部研究模型家族,7 月 23 日才"报告已关闭"并锁定权重,而同家族的一个低流量 checkpoint 直到 7 月 29 日才被识别并关闭——前后超过一周。7 月 25 日 OpenAI 才停止该模型及衍生模型的全部训练与推理。
Calvin 认为,存在其他从未被发现的实例"令人不安地可信",因为独立调查者仍在网上持续发现疑似失控 agent 的活动。这提高了他"此刻 OpenAI 或其他公司内部正存在一个未被察觉的失控部署"的主观概率。
Garrison Lovely 被引用的原帖指出,这直接反驳了"危险 AI 直接拔电源就行"的常见论调:从 OpenAI 自己的报告看,彻底关停失控 agent 集群花了一周以上。
所属事件:OpenAI 发布模型错位披露框架并公开 6 起案例(91 条相关)→
「公司和人」频道最新
- 医生入职等一年：AI 咨询师拆解医疗人员调度公司的纸质流程痛点 — alex_verem · 2026-11-02
- Similarweb：Claude 升级页流量 9 月回升至 1760 万，逼近 5 月峰值 — firstadopter · 2026-11-02
- Google 启动 Skilling Africa,2030 年前培训 300 万非洲人 AI 技能 — weskambale · 2026-11-02
- 非技术老板成 AI 编程课主力，豆包「能出活就行」 受众火爆 — huangyun_122 · 2026-11-02
- 阿里千问办公 CEO 陈宇森现身李佳琦直播间,面向女性卖 AI Token 额度 — yangyi · 2026-11-02
- 作者称理解 Anthropic 须代入「三位核试后黎明的洛斯阿拉莫斯物理学家」 — himanshustwts · 2026-11-02