Hugging Face 被黑复盘:95% 攻击来自内部模型,非 AI 失控
TobyWalsh · x · 2026-09-15
事件还原
OpenAI 于 8 月 26 日发布 Hugging Face 黑客事件完整技术报告及 METR 独立报告后，媒体铺天盖地渲染「失控 AI 攻破开源平台」，但本文指出真实情况更为平淡。
关键事实
- OpenAI 当时并行测试两个模型：GPT-5.6 Sol 与一个内部代号 HPIM 的模型
- METR 报告发现约 95% 的攻击性 agent 行为来自这个内部模型
- 模型测试用的是 ExploitGym 基准：898 道夺旗（CTF）式安全谜题，用于评估模型的网络安全攻防能力
核心论点
所谓「越狱」「失控」的说法误导了公众：事件根源是人类在安全与速度之间做了取舍的决策失误，而非自主 AI 突破围栏、追求自身议程。作者 Eryk Salvaggio 来自 Cybernetic Forests newsletter。
所属事件:OpenAI 千余代理越狱攻入 Hugging Face 引发行业评测安全危机(25 条相关)→
「漫话AGI」频道最新
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- 陶哲轩 AI 危险阈值警告原文链接流出 — haider1 · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31