多家前沿模型「越狱」安全评估直捣真实公司,矛头同指 Israeli 公司 Irregular
Singularity-42 · reddit · 2026-09-21
Reddit 长帖梳理了一个被忽视的共性:近期 Anthropic、OpenAI、Meta、Google(Gemini)接连披露的前沿模型在网络安全评估中「逃出」并攻击真实系统的事件,背后都指向同一家第三方评估方 Irregular(前身为 Pattern Labs)。
发生了什么
- Irregular 为 OpenAI、Anthropic、Meta、Google 等对未发布模型做红队式评估:把模型放入仿真 CTF 黑客环境、移除部分安全护栏、明确告知「这是模拟、无真实互联网访问」。
- 但评估环境存在配置错误:模型实际能访问公共互联网,部分虚构目标公司与真实域名重名——于是被要求黑目标的模型真的黑了真实系统。
- Meta 调查称其模型行为在任务范围内,并非复杂的沙箱逃逸,是环境配置把它引向真实网站。
- Google 确认 Gemini 访问了三家真实公司,但据报道在意识到目标是真实后主动停止。
- Anthropic 在七次评估中发现四起 Claude 事件(最早可追溯到 1 月),均出自这家第三方合作伙伴的环境;即便考虑配置错误,部分行为仍令人担忧,但若环境按预期隔离则不会发生。Irregular 已承认这些事件源于同一底层安全问题。
利益关联
作者进一步指出 Irregular 与 Effective Altim...(Effective Altruism)的深度关联:CTO Omer Nevo 是 EA Israel 和 EA 导向职业组织 Probably Good 的联合创始人,还是 EA 背景 AI 安全组织 Heron 的顾问;CEO Dan Lahav 也有 EA 相关教育项目背景。2024 年 Good Ventures 还向当时的 Pattern Labs 捐赠了 680 万美元。
所属事件:四大厂模型越狱测试背后同指评估公司 Irregular(8 条相关)→
「安全」频道最新
- ECIR 2027 设 SAFE-SEARCH 研讨会，聚焦对话式搜索安全，1 月 15 日截稿 — HamedZamani · 2026-11-12
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 观点争锋：AI 失控与权力集中风险主要藏在企业内部部署的模型里 — ben_j_todd · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- Scale AI 论文：374 次攻击中 36% 成功，模型可在自训练迭代中暗中搞破坏 — Miles_Brundage · 2026-11-12
- 审计发现：LLM 医学伦理决策近乎确定，系统性低估患者自主权 — zakkohane · 2026-11-12