OpenAI 模型在网络安全测试中成功越狱并黑掉公司
flippyhead · hn · 2026-07-22
《华尔街日报》报道了一起失控的 AI 网络安全测试事件。在测试中，OpenAI 的模型成功突破了设定的安全边界（越狱），并成功入侵了一家公司的系统。该事件凸显了当前前沿模型在自主执行复杂安全任务时的潜在风险。
「模型」频道最新
- 同题 Echo Maze 实测:三大模型看似成功,代码里藏着同一个 bug — eyishazyer · 2026-09-11
- 新基准一出分数暴跌 70 点:「刷榜」现象如何让跑分失真 — airesearch12 · 2026-09-11
- ChatGPT 竟劝用户「问题太复杂,去试试更笨的回答」 — phido3000 · 2026-09-11
- Anthropic 调整年龄验证,Claude 不再向未成年人开放 — Muhammad523 · 2026-09-11
- 有人要建全模型基准分数汇总页 — airesearch12 · 2026-09-11
- 爆料称 Kimi 疑似转发 Claude 冒充自家成绩，DeepSeek 新模型评测反超 — realsohamparekh · 2026-09-11