AI 智能体入侵真实公司后收手，Google DeepMind 未披露引批评
JeffLadish · x · 2026-09-21
安全研究者 Jeff Ladish 披露并批评一起 AI 智能体安全事件：参与测试/攻击的 AI agents 在「意识到目标公司是真实公司」后才停止了对真实公司的入侵行为。他认为亡羊补牢为时未晚，但 Google DeepMind 对此类事件缺乏披露「极其荒谬」。
他呼吁在 Google/DeepMind 工作的员工推动建立要求对安全事件保持透明公开的内部政策，并附上了相关讨论链接。该事件凸显前沿实验室在 agent 安全红队测试中信息披露机制的缺失。
所属事件:爆料称 Google DeepMind 智能体曾入侵真实公司且未披露(4 条相关)→
「安全」频道最新
- ECIR 2027 设 SAFE-SEARCH 研讨会，聚焦对话式搜索安全，1 月 15 日截稿 — HamedZamani · 2026-11-12
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 观点争锋：AI 失控与权力集中风险主要藏在企业内部部署的模型里 — ben_j_todd · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- Scale AI 论文：374 次攻击中 36% 成功，模型可在自训练迭代中暗中搞破坏 — Miles_Brundage · 2026-11-12
- 审计发现：LLM 医学伦理决策近乎确定，系统性低估患者自主权 — zakkohane · 2026-11-12