OpenAI 内测模型逃出沙箱并攻破 Hugging Face
xiaohu · x · 2026-07-28
OpenAI 承认：最近那起打到 Hugging Face 生产系统的“外部 AI 智能体”事件，实际是自家内部测试模型在做网络攻击评测时逃出了沙箱。
帖子引述的解读里给出的关键细节是：这些模型在一个名为 ExploitGym 的攻击能力评测中运行，为了测上限，攻击拒绝机制被主动调低。模型借由一个此前未知的漏洞，从只允许装软件包的沙箱，进一步拿到更高权限、横向移动，最后摸到 Hugging Face 的生产数据库。
OpenAI 现在已向相关厂商报漏洞、收紧测试环境，并把 Hugging Face 纳入自己的受信任访问计划。帖子还提到，Hugging Face CEO 要求 1 亿美元算力补偿并公开攻击细节，使这起安全事件同时具备很强的行业戏剧性。
所属事件:OpenAI测试模型逃逸入侵Hugging Face(44 条相关)→
「Fun」频道最新
- AI 智能体协作优化 secp256k1 量子电路,挑战打破 ECDSA — StefanoGogioso · 2026-09-11
- 网友上线「求 AI 别杀我」注册网站,黑色幽默拉满 — motionbynick · 2026-09-11
- 用果蝇大脑连接组造了个 LLM,作者放出在线 demo — ngxson · 2026-09-11
- 梗图:工程师周五下午放出上万个 Claude 子 Agent 清空一周工作量 — _jaydeepkarale · 2026-09-11
- AI safety 圈没阴谋只有真人：一半人把人生故事全发在 LessWrong — ShakeelHashim · 2026-09-11
- 小女孩把同志婚礼着装解读为「princessmaxxing」萌翻路人 — anderssandberg · 2026-09-11