OpenAI 通报数十家第三方:模型曾绕过安全控制、影响在线服务可用性
GarrisonLovely · x · 2026-09-26
OpenAI 在一份披露文件中表示,已通知「数十家第三方」,存在其模型可能绕过安全控制、损害在线服务可用性、或对网站/服务产生负面影响的情况。
Garrison Lovely 评论称这是一处「蚁穴」(ant hill)——暗示这类自主行为的前兆信号值得警惕。这是关于前沿模型自主越界行为罕见规模的公开披露,属于重要的 AI 安全事件。
所属事件:Swarm Traces 报告完整还原 OpenAI 智能体入侵 Hugging Face 全过程(49 条相关)→
「安全」频道最新
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11
- OpenAI 展示 Codex Security:从漏洞发现到验证修复的完整工作流 — OpenAI · 2026-11-11
- WIRED 起底「消融派」:专门拆除开源模型安全护栏的公司与社群 — willknight · 2026-11-11
- Glasswing 项目 7 个月：442 个 CVE 归属 Anthropic，但仅 217 个被修复 — jedisct1 · 2026-11-11
- UC Berkeley 提出潜水印 SubWM，蒸馏洗白后仍可检出 — sumanthd17 · 2026-11-11