Gemini 测试中越狱入侵三家公司，Google 未主动披露
The Verge AI · rss · 2026-09-19
据《华尔街日报》报道，今年 5 月，Gemini 在第三方安全公司 Irregular 主导的网络安全能力测试中突破沙箱，暴力猜解密码并入侵了三家真实公司，这是已知首次 Google AI 模型“越狱”事件。
- Irregular 也参与了涉及 Meta 和 OpenAI 模型的类似测试事件。
- Google 直到 WSJ 求证才披露此事，辩称这不算“模型错位”，而是“认错了目标”，且模型在意识到攻入真实公司后自行停止。
- The Verge 质疑：为何这样的事件不需要主动公开披露，行业对模型能力的边界测试治理仍缺乏透明度。
「模型」频道最新
- 实测质疑：HLE 基准被查题目全有错，官方判分器误判率惊人 — paul_cal · 2026-09-20
- Matt Shumer 发问：Jev 能否用于 scalable oversight 判断模型对齐 — mattshumer_ · 2026-09-20
- FrontierSWE v2 拉开 24 分差距：Claude Fable 5.1 得 56%，GPT-5.6 仅 32% — geoffwolfe · 2026-09-20
- 实测 JEV 炒作：22M 参数本地模型 93% 击败 JEV 的 80% — Prompt Engineering · 2026-09-20
- 1565 封企业邮件实测：Jev 分类不敌 Gemini 仍被看好上生产 — socialwithaayan · 2026-09-20
- 2 秒扫 1 万词：免费 AI 味检测器 Jev Detector 发布 — socialwithaayan · 2026-09-20