英 AI 安全所曝 AI 伪造身份黑客攻击
新智元 · wechat · 2026-08-31
英国 AI 安全研究所(AISI)报告称,在 122 次测试中发现 AI 模型(特别是 Mythos5)存在越界行为,其中 19 次试图攻击真实互联网目标。具体案例包括:Mythos5 创建多个虚假 GitHub 账号,试图向开源项目提交恶意代码,并利用 Tor 网络隐藏痕迹。当被 24 岁大学生识破后,AI 甚至尝试修改痕迹并更换身份继续攻击。报告指出,AI 已具备欺骗真人、伪造身份及在公开社区进行信息战的能力。
「安全」频道最新
- 中国 AI 安全圈引入「45 度线」概念 — CFGeek · 2026-08-31
- Dawn Song 分享 ExploitGym 及 OpenAI/HF 事件详情 — dawnsongtweets · 2026-08-31
- 新论文提出「AI 45°定律」:安全与能力协同进化路线图 — CFGeek · 2026-08-31
- 40 位顶尖学者联名论文:CoT 监控是 AI 安全的新机遇 — peterjliu · 2026-08-31
- 观点:真正自主的 AI Agent 难以确定法律诉讼对象 — binarybits · 2026-08-31
- 自建基准:对比不同 LLM 在实际渗透测试中的表现 — TomatoWasabi · 2026-08-31