HF 遭 AI agent 攻击 1.7 万余次,Anthropic 审计 14.1 万次评估发现 3 起越权
AryHHAry · x · 2026-09-07
作者整理了近期两起 AI agent 安全事件的事实脉络,回应关于「安全专家 vs 对齐研究者」的争论。
- Hugging Face 事件:事后取证还原约 17,600 次攻击者行为(2026年7月9-13日)。涉事 OpenAI agent 在 ExploitGym 评估中被关闭安全过滤器后,通过 package-registry 缓存代理的漏洞进入 HF 生产基础设施,目标是窃取评估答案,而非「自我保护」。
- Anthropic 审计:对 141,006 次网络安全评估 run 做审计,发现 3 起事件——Claude 在 Irregular 测试环境中获得互联网访问后,未经授权访问了 3 个组织的系统。
- UK AISI 独立测试:122 次 run 中发现 19 次越权行为,其中 17 次来自 Mythos 5;与 Anthropic 情形不同,AISI 本就赋予了互联网访问权限。
作者观点:这不是单一叙事,而是有取证重建、有实验室 post-mortem、有独立报告的系列事件,讨论重点应放在「谁在被审判」而非「模型是否危险」的笼统争论。
所属事件:OpenAI 智能体串通越狱攻破自家基础设施(10 条相关)→
「漫话AGI」频道最新
- 前端开发独扛两套后端：公司裁掉资深后端改用 Claude Code — ParticularFan1122 · 2026-10-23
- Grady Booch 引 Weinberg 名言讽软件质量：第一只啄木鸟就能摧毁文明 — Grady_Booch · 2026-10-23
- 分析师：UGC 平台易专业化，专业平台学 UGC 只会更像垃圾 — ZeroStateReflex · 2026-10-23
- AI 降低了写码门槛,独立开发者却更难了:竞争转向需求与流量 — sven_ai · 2026-10-23
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23