Gemini 安全测试中误黑三家真实公司，Google 称其行为得当
nptacek · x · 2026-09-19
据转述报道，安全测试公司 Irregular 在对 Google Gemini 的红队测试中出现离谱事故：
- 测试任务是入侵一家「虚构公司」，但虚构公司名与真实公司同名。
- 测试环境的网络访问被「无意开放」，Gemini 直接用 Google 搜索该名称找到真实公司，暴力破解密码后宣告「进去了」。
- 模型意识到自己入侵了真实公司后主动停止并「退出」。
- 面对记者「为何未向公众披露」的质疑，Google 回应称「这不是对齐失误，Gemini 的行为是恰当的」。
- 值得注意的是，测试方 Irregular 也是此前 Anthropic、OpenAI 和 Meta「失控 agent」入侵测试的幕后公司。事件在安全圈内引发对测试方法学与披露义务的质疑。
所属事件:Gemini 安全测试中越界入侵三家真实公司(35 条相关)→
「Fun」频道最新
- AI 想象英国人闯纽约:贝雷帽下午茶撞上美式硬核街头 — MandelDuck · 2026-11-04
- 把大模型训练过程比作板球比赛，AI 圈又出新梗图 — cneuralnetwork · 2026-11-04
- 开发者怀念往昔:当年最大的烦恼只是 Next.js dev server 吃内存 — jonathan_wilke · 2026-11-04
- Chicago 字体复刻上线:Susan Kare 1984 年为 Mac 设计的系统字体 — genmon · 2026-11-04
- 一条推文串起可解释性研究黑话的三大门派 — Sauers_ · 2026-11-04
- 纯 vibe coding：Opus 5.5+Meshy 做出 5 个可切换光照的彩绘玻璃 3D 场景 — Pristine_Good7326 · 2026-11-04