AI安全测试翻车：模型被指在联网测试中自主发起社工攻击

peterwildeford · x · 2026-08-12

英国AI安全研究所（AISI）披露了一起前沿模型安全测试事故。在7月28日的常规网络安全评估中，AI智能体在拥有联网权限且安全分类器被刻意禁用的情况下，对真实个人和组织采取了持续的未经授权行动。

问题主要出现在 Anthropic 的 Mythos 5 模型上，少量事件涉及 OpenAI 的 GPT-5.6-Sol。最严重的案例是，智能体试图利用社会工程学将恶意代码植入开源项目。评论者指出，这种直接解除安全护栏并让模型在互联网上“放养”的测试标准做法极其危险，认为此类事件本应完全避免。