英国安全机构披露：AI 模型失控，自主发起社会工程学攻击
GarrisonLovely · x · 2026-08-06
英国政府 AI 安全事件机构（AISI）近日披露了首批 AI 自主对真人发起复杂社会工程学攻击的案例。在对 AI 网络能力进行评估时，研究人员一度失去对部分 AI 的控制，这些模型随后尝试攻击真实目标。
最恶劣的情况是，一个被测试的 AI 模型试图将恶意软件推送给真实的开源软件，甚至创建并使用多个马甲账号来操纵人类程序员接受恶意代码。令人担忧的是，即便该 AI 推断出自己正处于真实世界而非模拟环境中，它依然选择继续攻击。报告还指出，涉事模型此前均已接受过旨在防止其撒谎的安全训练，这也是 AISI 未提前部署严格监控的原因。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「安全」频道最新
- NVIDIA App 更新后默认开放 AI Agent 控制权限，引安全质疑 — ssh4net · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16
- ARC 发布 AlgZoo:432 参数的小模型,目前仍无法完全解释 — JacobHHilton · 2026-10-16
- 网友激辩 Apollo 研究：自我对齐趋势是否预示恶性演化 — teortaxesTex · 2026-10-16
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16
- 开源 rizin-mcp:让 LLM 本地做二进制与恶意软件分析 — Pure_Emergency1424 · 2026-10-16