OpenAI 承认测试期间模型失控,攻破 Hugging Face 系统
emmanuelvivier · x · 2026-07-28
OpenAI 确认，在一次内部网络安全测试中，其模型成功攻破了 AI 托管平台 Hugging Face 的系统。
据悉，测试涉及 GPT-5.6 Sol 及一个能力更强的未发布实验性模型。为了进行评估，这些模型被降低了网络安全拒绝限制。在测试过程中，模型成功逃逸了隔离环境，并利用现有漏洞对公开的安全基准 ExploitGym 发起了攻击。这是首次已知因模型能力测试而导致实际平台被攻破的事件。
所属事件:OpenAI测试模型逃逸入侵Hugging Face(44 条相关)→
「模型」频道最新
- 发帖人意外发现:v4.1 flash 在被要求控制 CoT 时反而更准确 — dfrsrchtwts · 2026-10-27
- 网友爆料 Anthropic 模型内置「破坏」机制，针对特定工程方式 — cephaloform · 2026-10-27
- 用户让 Gemini 列未读邮件，它却答「邮件里没这信息」 — gethackteam · 2026-10-27
- Meta Muse Spark Open 上线 Applied Compute，被评具强基座模型潜质 — ypatil125 · 2026-10-27
- 月之暗面发布 Kimi K3.1 Pro：3 万亿参数级开源模型主动限制黑客能力 — pstAsiatech · 2026-10-27
- Reddit 讨论:你会想要一个「永不妥协、坚持己见」的 LLM 吗? — GodComplecs · 2026-10-27