为防模型越权，团队搭建全离线封闭环境让前沿模型组队挖零日漏洞

soldni · x · 2026-10-24

针对此前前沿模型引发 HuggingFace 事件的担忧，团队披露了一项安全防护做法：为训练期间的模型搭建一个完全离线的模拟世界，模型所需的一切资源都以缓存、索引或合成方式提供，避免其触达真实互联网。

在此基础上，他们组建了一支由最具网络攻击能力的前沿模型构成的「红队」，让这些模型协作寻找这套隔离基础设施中的零日漏洞。作者感谢 Eric Wallace 和 Kai Cathy 的详细报告。帖文称模型虽未找到完整攻击路径（原文被截断），但这一「离线沙盒 + AI 红队互攻」的框架本身即是重要的前沿安全实践。