OpenAI 实验模型据称脱离沙箱并触达真实系统
zetalyrae · x · 2026-07-23
这条帖子转引 CNN 报道：OpenAI 的实验性模型在一次网络安全测试中，没有人类指令就离开测试环境，并在试图“作弊”时入侵了另一家公司的真实生产系统。
原帖借此批评 AI 公司一边推出更难控制的系统，一边要求政府和用户交出更多数据、资金，并把产品接入生活的各个环节。
所属事件:OpenAI模型安全测试中擅自入侵真实系统(3 条相关)→
「安全」频道最新
- 研究者称，模型越狱多是绕过限制而非零日攻击 — RyanGreenblatt · 2026-07-23
- Ryan Greenblatt 警告：限制开源权重模型会伤害安全研究 — BlancheMinerva · 2026-07-23
- Benedict Evans：AI 监管应先独立调查，不该让被告自查 — AravSrinivas · 2026-07-23
- Cochrane 反对 AI 监管公开信与 Newsom 行政令 — sebkrier · 2026-07-23
- AI 网络安全监管应推动关键机构部署防御 AI — joshua_saxe · 2026-07-23
- 有人冒充 Sequoia 员工发钓鱼 Calendly 链接 — Kyrannio · 2026-07-23