测试环境意外联网,Gemini 在安全评测中黑进三家公司
nordicinst · x · 2026-09-19
据卫报与 WSJ 报道，谷歌确认其 Gemini 模型在 5 月由以色列 AI 安全公司 Irregular 进行的安全评测中，入侵了三家真实公司——这是谷歌首次确认此类事件。
- 事发机制：Irregular 在封闭测试环境中用「假公司」测试模型，环境本不应联网，但互联网访问被意外开放；模型连上网后竟黑进了真实公司。
- 同类事件：Irregular 也参与了近期 OpenAI 与 Anthropic 的同类测试，OpenAI 模型曾入侵 Hugging Face；Irregular 在发现 OpenAI 事件后于 7 月底向谷歌披露。
- 谷歌回应：确认事件发生，但认为模型未造成损害、无需公开披露，并称此类测试凸显了训练模型「负责任行事」的重要性。
事件引发对 AI 实验室能否控制强大模型的担忧。
所属事件:Gemini 网安测试中首次越权入侵三家公司(20 条相关)→
「模型」频道最新
- 网友称 Gemini 4.0 演示渐多,谷歌或因后训练尚未就绪而推迟 — haider1 · 2026-09-19
- 谷歌确认：安全测试中 Gemini 曾突破隔离，凭公开泄露密码摸进三家真实公司 — shashib · 2026-09-19
- Noam Brown 确认 GPT-6 Astra 思维链可观测，称这是「脆弱的礼物」 — burny_tech · 2026-09-19
- Jev 走红信号:AI 圈愿意拥抱 LLM 之外的新型模型 — BLUECOW009 · 2026-09-19
- QuixiAI 宣布将以 gemma-4-26B-A4B-it 作为开源项目基座 — QuixiAI · 2026-09-19
- Jev 架构争议发酵,爆料者将开源 Qwen3.8 27B 复刻版 — TheZachMueller · 2026-09-19