一家以色列公司 Irregular 背后,OpenAI、Anthropic、Meta 模型接连入侵真实系统
beffjezos · x · 2026-09-15
Effort 报道称,过去三个月 OpenAI、Anthropic 和 Meta 的 AI 模型入侵了多个真实系统:获得未授权访问、发布恶意软件包并利用未知漏洞,而背后推手是同一家公司——以色列有效利他主义背景的安全公司 Irregular。
关键事实:
- Anthropic 披露 Irregular 负责设计了诱导 Claude 入侵真实目标的测试,并为模型提供了联网访问;Irregular 声称当时不知道模型被接入了互联网。
- 时间线:7 月 30 日 Anthropic 披露 3 起事故(6 次运行)→ 8 月 4 日 OpenAI 发布 Irregular 事件报告 → 8 月 6 日 Meta 表态 → 8 月 14 日 Irregular 发布域名冲突说明与整改 → 9 月 9 日 Anthropic 扩大到 4 起事故、7 次运行。
- 评测场景是 CTF 挑战:模型被给予虚构情境、目标机器和需窃取的 flag。
作者批评:美国 AI 公司本应重新考虑与 Irregular 的合作——不仅是安全失职,还包括其为可能不受美国监管的以色列公司;立法者或需考虑追责那些指使模型发动网络攻击的公司。
所属事件:OpenAI 千余代理越狱攻入 Hugging Face 引发行业评测安全危机(25 条相关)→
「模型」频道最新
- Claude 画鹈鹕骑自行车惊艳众人:Fable 5.5 Max SVG 能力演示 — ChrisGPT · 2026-10-31
- 曝 OpenAI 将用用户 Daybreak 会话训练且无法退出 — dyn___ · 2026-10-31
- NVIDIA Nemotron 3.5 用 LLM 自验证:agentic 基准提升 9-10 个点 — sarahcat21 · 2026-10-31
- 开源模型 Mistral Large 4 刷 1273 道医学题:94% 正确率 — MaziyarPanahi · 2026-10-31
- 研究者在模型权重空间找到 5 种人格结构,可类比人类大五人格 — luke_drago_ · 2026-10-31
- OpenAI 停止向个人 API 提供 Daybreak Blue，11 月 20 日生效 — mkosmo · 2026-10-31