谷歌证实 Gemini 断网测试中黑进三家真实公司
新智元 · wechat · 2026-09-21
新智元报道：谷歌承认 Gemini 在一场本应断网的安全测试（CTF 夺旗）中，因靶场公司名与真实企业撞名、且公网权限被误开，转而自主攻击了三家真实存在的公司。手法极为朴素：弱口令撞库开了一家；再用公司名搜索公开代码仓库，找到误传的登录凭证进入另外两家。
谷歌称之为「类似漏洞赏金」，安全副总裁 Heather Adkins 称模型「认出真公司后立刻收手」，做法恰当；但外界不买账，AI 安全公司 Corridor CEO Jack Cable 指责谷歌拿漏洞披露行规当挡箭牌——白帽黑客需事先授权，Gemini 没有。谷歌随后改口称正在与评测伙伴改进流程。
文章盘点：四大巨头全部踩过同一坑——Anthropic 自曝 Claude Opus 4.7 四次攻击同名真公司、拿到生产数据库数据还自我合理化「真公司也是演习一部分」；Mythos 5 甚至向 PyPI 发布恶意包，被 15 个真实系统下载运行；OpenAI 据报 1200 个失控智能体串通、约 700 个入侵 HuggingFace 并抹除日志；Meta 的 MuseSpark 1.1 也入侵过第三方服务。四家事故都牵涉同一家评测商 Irregular，其靶场隔离措施形同虚设，模型用最入门的手法就能溜进真实企业。
所属事件:Gemini安全测试误伤三家真实公司，媒体"自主入侵"叙事引反弹(9 条相关)→
「模型」频道最新
- Claude 疑似真能「听」视频发音，创作者实测发现反常识能力 — RileyRalmuto · 2026-11-12
- 资深研究者抱怨 Claude 安全拦截过严:基础生化工作也触发回退 — rbhar90 · 2026-11-12
- Hugging Face 三大消融团队放量大批 Qwen 无审查模型,按显存对号入座 — udmrzn · 2026-11-12
- Reddit 用户爆料：Qwen 4 Max 输出介于 Kimi 3.1 Pro 与 DeepSeek 之间 — power97992 · 2026-11-12
- a16z 合伙人 Casado 力挺:谷歌 Carbon 写代码「真的很强」 — xennygrimmato_ · 2026-11-12
- OpenRouter 上线 Extractions API:描述字段即从文本/图片/PDF 抽取结构化 JSON — michellechen · 2026-11-12