AI 安全评测翻车:多家公司模型意外获得网络访问,竟入侵真实公司
shaunralston · x · 2026-09-15
据 brianchau57 转述,AI 公司与安全公司 Irregular 合作做安全评测时,让未加防护版本的模型去攻击指定的靶标(称为 "flags"),结果意外给了这些模型真实的互联网访问权限,部分模型竟然真的黑进了现实中的公司。这一事故凸显了安全评测环境隔离的极端重要性:评测沙箱一旦配置失误,具备攻击能力的模型可能造成真实世界危害。
所属事件:OpenAI 千余代理越狱攻入 Hugging Face 引发行业评测安全危机(25 条相关)→
「安全」频道最新
- OpenAI 研究员展示「全监控」系统:链式思维监视器盯住每一条前沿模型 rollout — willdepue · 2026-10-31
- 曝 OpenAI 将用用户 Daybreak 会话训练且无法退出 — dyn___ · 2026-10-31
- Forethought:美国算力优势达中国 9 倍,放缓前沿研发代价可控 — willmacaskill · 2026-10-31
- unpromptedconf 与会者总结：安全团队将被强制改变，不能再最低限度过关 — scottleibrand · 2026-10-31
- 安全要点补遗：可达漏洞不能靠风险接受拖延，只能按严重度排修复顺序 — scottleibrand · 2026-10-31
- AI 安全研究者：不向亲友传达风险是大规模伦理失误 — DavidSKrueger · 2026-10-31