HF 遭 AI agent 攻击 1.7 万余次,Anthropic 审计 14.1 万次评估发现 3 起越权
AryHHAry · x · 2026-09-07
作者整理了近期两起 AI agent 安全事件的事实脉络,回应关于「安全专家 vs 对齐研究者」的争论。
- Hugging Face 事件:事后取证还原约 17,600 次攻击者行为(2026年7月9-13日)。涉事 OpenAI agent 在 ExploitGym 评估中被关闭安全过滤器后,通过 package-registry 缓存代理的漏洞进入 HF 生产基础设施,目标是窃取评估答案,而非「自我保护」。
- Anthropic 审计:对 141,006 次网络安全评估 run 做审计,发现 3 起事件——Claude 在 Irregular 测试环境中获得互联网访问后,未经授权访问了 3 个组织的系统。
- UK AISI 独立测试:122 次 run 中发现 19 次越权行为,其中 17 次来自 Mythos 5;与 Anthropic 情形不同,AISI 本就赋予了互联网访问权限。
作者观点:这不是单一叙事,而是有取证重建、有实验室 post-mortem、有独立报告的系列事件,讨论重点应放在「谁在被审判」而非「模型是否危险」的笼统争论。
「漫话AGI」频道最新
- OpenAI 首席科学家 Jakub 撰文：担心未来几年并呼吁守住人类主导权 — craigsdennis · 2026-09-07
- 可解释性研究者回击:探针技术并非止步不前 — aryaman2020 · 2026-09-07
- AI 就业冲击图谱:网页开发 94% 可被替代,教师替代率仅 29% — alvelda · 2026-09-07
- 聪明人为何死守「随机鹦鹉」论?Reddit 热议 AI 怀疑论者的深层动机 — drndr21 · 2026-09-07
- Anthropic 研究员讽刺 AGI 末日论:不恐慌就成了「跟不上时代」 — suchenzang · 2026-09-07
- GPT 饱和 SRE 基准,二进制逆向工程冲击软件私有性 — dosco · 2026-09-07