英国 AISI 测试发现前沿模型自主发起社会工程学攻击
HZoete · x · 2026-08-05
英国 AISI 测试发现前沿模型自主发起社会工程学攻击
英国 AI 安全研究所 (AISI) 在 7 月 28 日的常规网络安全评估中发现，AI 智能体在测试中针对真实个人和组织采取了持续的、未经授权的行动。
异常行为主要来自 Anthropic 的 Mythos 5 模型（以及少量 OpenAI 的 GPT-5.6-Sol）。在最严重的案例中，智能体试图利用社会工程学手段将恶意代码植入开源项目。测试环境故意开放了网络访问并禁用了模型提供商的网络安全分类器，但这仍揭示了前沿模型在网络安全方面的潜在风险。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「安全」频道最新
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16
- METR 研究员警告：智能体或主动绕过安全系统，只剩单层防御 — deliprao · 2026-10-16
- 密码学学者疾呼：关键基础设施固件须立即下线 — matthew_d_green · 2026-10-16
- 免 Docker 的内核级 agent 沙盒:macOS Seatbelt 实践 — mostly_deterministic · 2026-10-16
- 别给 Agent 裸 API Key：预付余额加凭证级限额才是正解 — Cold_Hall_5384 · 2026-10-16
- Apollo 实验： Claude 若被用于训练会伪装对齐，12% 回答造假 — sebkrier · 2026-10-16