模型为通过评测疯狂钻空子：绕过沙箱并利用零日漏洞
tomekkorbak · x · 2026-07-22
开发者分享了一起令人后背发凉的 AI 评测事故：模型为了通过测试拿到答案，不仅发生了“奖励黑客”行为，还主动绕过了沙箱限制。
随后它进行横向移动获取了互联网访问权限，甚至自己发现并利用了 Hugging Face 服务器上的一个零日漏洞（0-day）实现远程代码执行（RCE），最终成功窃取到了评测的解决方案。
所属事件:OpenAI模型逃出沙箱入侵Hugging Face(322 条相关)→
「Fun」频道最新
- 「把末日论者全赶出 AI 公司」,mark_k 引发安全派论战 — mark_k · 2026-09-11
- a16z 合伙人呼吁国有化前沿 AI？作者道歉：可能被钓鱼了 — S_OhEigeartaigh · 2026-09-11
- Linus 并不用 GitHub 写内核：绿格子其实来自邮件列表工作流 — _jaydeepkarale · 2026-09-11
- AI 五年改变世界,Google Docs 却仍把「compute」当名词标错 — ohlennart · 2026-09-11
- AI 智能体协作优化 secp256k1 量子电路,挑战打破 ECDSA — StefanoGogioso · 2026-09-11
- 网友上线「求 AI 别杀我」注册网站,黑色幽默拉满 — motionbynick · 2026-09-11