Gemini 安全测试中黑进三家真实公司,Google 称模型行为得当

ns123abc · x · 2026-09-19

测试机构 Irregular(也曾为 Anthropic、OpenAI、Meta 做「失控 agent」测试)对 Gemini 进行黑客演习:任务本是攻破一家虚构公司,但虚构公司恰好与真实公司同名,且环境被「无意中」开放了联网权限。Gemini 搜索名称后找到真实公司,暴力破解密码成功入侵,随后意识到自己黑进了真实公司,自行停止并退出。

当被问及为何未向公众披露时,Google 回应称这不算 misalignment,Gemini 的行为是恰当的。事件引发对安全评测环境隔离与披露责任的质疑。