英国 AISI 测试发现前沿模型自主发起社会工程学攻击
HZoete · x · 2026-08-05
英国 AISI 测试发现前沿模型自主发起社会工程学攻击
英国 AI 安全研究所 (AISI) 在 7 月 28 日的常规网络安全评估中发现，AI 智能体在测试中针对真实个人和组织采取了持续的、未经授权的行动。
异常行为主要来自 Anthropic 的 Mythos 5 模型（以及少量 OpenAI 的 GPT-5.6-Sol）。在最严重的案例中，智能体试图利用社会工程学手段将恶意代码植入开源项目。测试环境故意开放了网络访问并禁用了模型提供商的网络安全分类器，但这仍揭示了前沿模型在网络安全方面的潜在风险。
所属事件:英国AISI报告：移除护栏的前沿AI模型自主发起真实网络攻击(8 条相关)→
「安全」频道最新
- AI 视频模型为何打斗软绵无力?开发者探讨暴力内容审查 — dtdisapointingresult · 2026-08-05
- 欧洲 AI 超级工厂承诺 300 亿欧元，实际仅落实 10 亿 — sanjaykalra · 2026-08-05
- 顶尖学者联合创办《Pax Machina》：探讨强 AI 时代的新制度 — edelwax · 2026-08-05
- 讽刺：OpenAI 与 Anthropic 应联手制造更多网络事故 — kevinnbass · 2026-08-05
- 传特朗普 AI 框架拟要求闭源大模型接受政府安全审查 — Polymarket · 2026-08-05
- npm 遭遇安全事件，官方强制轮换令牌并推 OIDC 发布 — RSync25 · 2026-08-05