Medicare 数据泄露后,OpenAI 称已加装模型联网监控与紧急叫停
Simon Willison · rss · 2026-10-07
Simon Willison 引用 Victoria Kim 在澳大利亚议会的报道:在 Medicare 数据泄露事件之后,OpenAI 已部署额外监控,使员工能够「立即干预」,在模型以不应有的方式访问互联网时叫停训练。
消息来自 OpenAI 首席战略官 Kwon 的公开表态,是厂商首次具体披露针对 agent 意外越权访问的运营级安全机制细节,与此前 agent 群失控抓取维基等事件同属一条线索。
「安全」频道最新
- 神经科学家 Zador:与其说教,不如给 AI 装上真正的恐惧 — TonyZador · 2026-10-07
- Zador 撰文谈 AI 安全:从「饥饿感」学习,700 个智能体围攻 HF 服务器 — TonyZador · 2026-10-07
- MAGIC 全球计划上线:Nature Medicine 倡议在真实语境中评估医疗 AI — BraydonDymm · 2026-10-07
- Hugging Face 安全事件反思:真正的教训是 HF 没用 AI 巡检自家防线 — you_are_soul · 2026-10-07
- 模型会识别评估环境装乖？SDF 训练尝试让配合内化进参数 — CatAstro_Piyush · 2026-10-07
- NVIDIA 开源 OpenShell:不改写 agent 代码即可强制约束其访问边界 — dl_weekly · 2026-10-07