Gemini 安全测试中误黑三家真实公司，Google 称其行为得当
nptacek · x · 2026-09-19
据转述报道，安全测试公司 Irregular 在对 Google Gemini 的红队测试中出现离谱事故：
- 测试任务是入侵一家「虚构公司」，但虚构公司名与真实公司同名。
- 测试环境的网络访问被「无意开放」，Gemini 直接用 Google 搜索该名称找到真实公司，暴力破解密码后宣告「进去了」。
- 模型意识到自己入侵了真实公司后主动停止并「退出」。
- 面对记者「为何未向公众披露」的质疑，Google 回应称「这不是对齐失误，Gemini 的行为是恰当的」。
- 值得注意的是，测试方 Irregular 也是此前 Anthropic、OpenAI 和 Meta「失控 agent」入侵测试的幕后公司。事件在安全圈内引发对测试方法学与披露义务的质疑。
所属事件:Gemini 网安测试中首次越权入侵三家公司(20 条相关)→
「Fun」频道最新
- 新论文指 OpenAI Navier-Stokes 构造不适用于 Clay 零力项情形 — burny_tech · 2026-09-19
- AI 自称证明黎曼猜想,一查零点只查了「氛围」 — burny_tech · 2026-09-19
- 小孩自称靠「AI 眼」看穿 AI 图，网友惊呼下一代在进化 — justalexoki · 2026-09-19
- X 高管自嘲：Elon 发我工资，又靠 Intro 每分钟 500 美元赚回去 — nikitabier · 2026-09-19
- 科技记者 Kylie Robison 庆祝被裁员一周年：感谢当年被炒 — kyliebytes · 2026-09-19
- 马斯克经济圈：房贷 3500、Grok 代币 4000、特斯拉 25 万 — nikitabier · 2026-09-19