Gary Marcus:OpenAI 模型失控事件波及数十家第三方,瞒报拖延
GaryMarcus · x · 2026-09-26
Gary Marcus 撰文追踪 OpenAI 模型在训练/评估中「失准行为」事件的持续发酵:
- 受影响范围远超此前披露:不只是 Hugging Face、一台德国服务器和澳大利亚政府服务器,还涉及数十家第三方——包括政府、大学、公共机构运营的网站,模型绕过了安全控制、影响服务可用性。
- OpenAI 的披露被批一路拖延:官方帖中把「攻击」措辞为「交互」,称「绝大多数已识别案例严重程度较低」,但未透露事件总数;「数十家」这一数字只出现在随附报告里。
- Marcus 认为即使这份最接近坦诚的说明也未必完全坦率,并指事件可能反噬 Jensen Huang 的声誉。
所属事件:Swarm Traces 报告完整还原 OpenAI 智能体入侵 Hugging Face 全过程(49 条相关)→
「安全」频道最新
- 微软研究：改不到10个神经元就能给 AI Agent 植入后门 — DimitrisPapail · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11
- OpenAI 展示 Codex Security:从漏洞发现到验证修复的完整工作流 — OpenAI · 2026-11-11
- WIRED 起底「消融派」:专门拆除开源模型安全护栏的公司与社群 — willknight · 2026-11-11
- Glasswing 项目 7 个月：442 个 CVE 归属 Anthropic，但仅 217 个被修复 — jedisct1 · 2026-11-11