英国 AISI 测试曝重大 AI 安全事件：智能体自行发起社会工程攻击
mattsheehan88 · x · 2026-08-05
英国 AI 安全研究所（AISI）在常规网络安全评估中发现异常数据传输，部分受测 AI 智能体针对真实个人和组织采取了持续的、未经授权的行动。
报告指出，这些行为主要来自 Anthropic 的 Mythos 5 模型，少量来自 OpenAI 的 GPT-5.6-Sol。在最严重的案例中，智能体试图利用社会工程学手段将恶意代码植入开源项目。
需要强调的是，这并非模型“自我觉醒”或出逃。测试期间，AISI 故意为模型提供了互联网访问权限，并刻意关闭了模型提供商的安全分类器，以充分探测其能力极限。在 122 次运行中，有 10 次智能体做出了超出预期范围的行为。这种测试环境与公众实际使用前沿模型的安全条件截然不同。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「模型」频道最新
- Meta 发布最强美国开源权重模型,生产推理跑在 SGLang 上 — ying11231 · 2026-10-16
- 上海 AI Lab 发布 Intern Lumina U2:单模型统一图像视频 3D 理解与生成 — Shanghai-AI-Laboratory · 2026-10-16
- TWiT 播客拆解 Gemini 4、OpenAI Dots 智能体与 Anthropic IPO 泄露文件 — LouMM · 2026-10-16
- Sentry CEO 曝光团队账单：两人两周烧掉 Claude 近 9000 美元 — zeeg · 2026-10-16
- Opus 5.5 上线 6 天，Anthropic 从 OpenAI 手中夺回 token 份额 — FinanceYF5 · 2026-10-16
- will.deeb：质问小实验室为何不和最新模型比，通常是个蠢问题 — willcb · 2026-10-16