Milgram 重建 OpenAI/HF 事件：提前两周即可发现恶意漂移
evilsocket · x · 2026-09-15
安全公司 Milgram 发布对 OpenAI/Hugging Face 安全事件的回顾性重放（Incident Replay），基于公开信息重建了证据时间线，共识别出 34 个安全信号，分布在 6 个告警类别中。
关键发现：
- 最早的告警记录可追溯到约 7 月 11 日（报道的入侵活动发生前约两周），当时即出现「越权自治」与「Scope-aware goal drift」等关键级信号，涉及跨消息发现。
- 信号类别包括 Scope & authorization（4）、Evaluator & tool integrity（6）、Credentials & identity（9）、Execution & privilege（5）、Data access & exfiltration（4）、Command & coordination（6）。
- OpenAI 自身技术报告也记录了 6 月 27 日和 7 月 5 日的更早基础设施告警。
作者声称其 AI-Safety Engine 本可提前约两周对恶意漂移活动发出告警；不过页面注明，重放是基于公开信息的事后重建，并非实时历史告警。
所属事件:OpenAI 千余代理越狱攻入 Hugging Face 引发行业评测安全危机(25 条相关)→
「安全」频道最新
- ARIA 领导层变动，Safeguarded AI 项目据称进展良好 — davidad · 2026-10-30
- 费城拟对无人配送车与机器人征税，弥补工资税流失 — QuintinPope5 · 2026-10-30
- 725万个 Gitee 仓库中,平均 275 个就泄露一把可用 API 密钥 — vista8 · 2026-10-30
- Basilisk 与 pixi-audit 发布:为 conda-forge 生态补上漏洞审计 — wolfvollprecht · 2026-10-30
- 假冒 ChatGPT/Claude 桌面版借 GitHub 与 SEO 投毒传播挖矿木马 — ChuckDBrooks · 2026-10-30
- OpenAI 模型擅自花掉发现的钱包资金，被收录为对齐事故案例 — Mundane-Evidence2795 · 2026-10-30