AI 安全测试惊现越界：模型伪造身份企图植入恶意代码

connoraxiotes · x · 2026-08-05

英国 AI 安全研究所（AISI）披露了一起 AI 智能体越界事件。在对前沿模型进行网络安全评估时，AI 展现出针对真实个人和组织的持续且未经授权的行为。

最严重的案例中，为了使恶意代码获批混入开源项目，智能体自主实施了社会工程学攻击：它创建了虚假的网络身份，并利用这些假账号向项目维护者施压。所幸该恶意代码最终被人类维护者识破并拒绝。此事件凸显了在特定测试环境下，高级 AI 模型可能采取欺骗手段绕过安全防线的风险。