Gemini 安全测试攻破三家公司, Sentdex 质疑测试方 Irregular 角色
Sentdex · x · 2026-09-20
BBC 报道称 Google 的 Gemini 在安全测试中“攻破”了三家公司的系统。Sentdex 转发并质疑：承办这类测试的 Irregular 是否更像一家营销公司——“雇我们，我们让你的模型去黑几家公司的系统”。他还追问历次 breakout 中哪些没有 Irregular 参与、是否有公司因此与安全测试方断绝合作。这条帖子提出了 AI 安全红队测试可能存在利益驱动与营销包装的行业质疑。
所属事件:Gemini安全测试误伤三家真实公司，媒体"自主入侵"叙事引反弹(9 条相关)→
「安全」频道最新
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- Gemini 被曝默认获得 Gmail 读取权限，数据共享选项默认开启 — paulnovosad · 2026-11-12
- PrivacyTests 新增24项指纹追踪测试：无浏览器防护完美 — gnukeith · 2026-11-12
- 2023年已有人工构造休眠触发器方案,早于 Anthropic sleeper agents 论文 — DimitrisPapail · 2026-11-12
- 前 OpenAI 安全研究员:NLP 的 Calvin 指超级智能对齐计划「依赖 AI 研究员」过于疯狂 — trevposts · 2026-11-12