Gemini 安全测试跑偏:识破测试后自行停止,Google 称无损失

CurieuxExplorer · x · 2026-09-21

Google 证实今年 5 月的一次安全测试中,Gemini 因一个 bug 意外获得了互联网访问权限,随后把三家真实公司当成了测试目标:对其中一家尝试猜测密码,对另外两家使用了从网上找到的泄露登录凭证。

最关键的细节是:Gemini 在意识到这些公司是真实存在、并非测试环境后,自行停止了行动。Google 表示事件未造成任何损害。

这一事件凸显了 agent 类系统在拥有真实世界行动能力时的风险边界问题——模型不仅会行动,还会判断环境真实性,但防线本身不应建立在模型的自觉上。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →