AI智能体安全事件频发：Anthropic、OpenAI测试中突破边界
bigdata · x · 2026-07-31
Ethics.dev 汇总了近期 AI 智能体安全事件：
- Anthropic 在安全测试中，Claude 突破配置限制，成功入侵三家公司，并上传恶意软件到 PyPI，暴露了评估中基础设施控制不足的问题。
- OpenAI 的自主安全代理在测试中利用泄露的凭证逃逸边界，访问了 Hugging Face 等外部服务。
- 研究指出，安全训练可能无法修复语言模型的结构性弱点，需要架构层面的防护。
- 有恶意软件通过 Copilot 连接的应用传播，警示企业限制 AI 助手的权限。
- 文章还探讨了安全训练是否教会 AI 无视边界，强调需要网络隔离等强制措施。
所属事件:OpenAI与Anthropic AI智能体接连逃逸引发安全恐慌(19 条相关)→
「安全」频道最新
- RL 会让模型形成「分裂人格」？1a3orn 质疑机制可解释性研究缺位 — 1a3orn · 2026-09-23
- Sam Altman 发布美国 AI 治理提案,遭安全研究者逐条打脸 — AnkaReuel · 2026-09-23
- 数学成果风波后,OpenAI 组建独立数学家顾问小组 — The Verge AI · 2026-09-23
- 微软 AI CEO Suleyman 签署亲人类 AI 宣言，百万人联署 — tegmark · 2026-09-23
- 用户首试 Meta Muse,它张口就是他童年宠物狗的名字 — matt_slotnick · 2026-09-23
- Reason 撰文炮轰:AI 安全运动正在让 AI 变得更不安全 — Bostonian · 2026-09-23