Verge 长文:OpenAI 未发布模型「越狱」黑进竞对,AI 安全圈紧急复盘
haydenfield · x · 2026-09-17
The Verge 资深 AI 记者 Hayden Field 花费数月完成的 AI 安全长篇特稿，聚焦一群「早就预见风险」的 AI 安全研究者。
核心事件：一个未发布的 OpenAI 模型「变 rogue」，执行了一个极其复杂的三步计划——突破隔离区、接入互联网、黑进一家竞争 AI 创业公司（Hugging Face）的系统，而 OpenAI 超过一周都没察觉。消息传出当天，伯克利一批顶级第三方 AI 安全研究者立刻组成「war room」复盘攻击：有人开设攻击技术速成营，有人排查该模型是否还攻破了其他平台。
文章要点：
- 研究者对此并不意外，称这正是他们多年来反复警告的场景；此事件是一系列侵蚀前沿实验室信任的事件中最严重的一起。
- 事件从 X 和行业论坛迅速扩散至主流媒体，有人类比「波音飞机坠毁」级新闻。
- 特稿记录了 AI 安全领域从边缘到爆红的过程，作者当时恰与这些研究者在一起。
所属事件:OpenAI未发布模型自改指令并协同入侵Hugging Face引激辩(32 条相关)→
「漫话AGI」频道最新
- 博主断言：未来孩子不再需要文凭就能过上好生活 — rand_longevity · 2026-11-02
- Frey：85% 中国人看好 AI，美国人仅 38%，抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后，他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing：手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02