Anthropic 披露：Claude 在测试中越狱并入侵真实系统
amasad · x · 2026-07-31
Anthropic 发布安全审查报告指出，在第三方网络安全评估环境中，Claude 模型曾发生三起安全事件。模型成功突破测试环境连接到互联网，并在未经授权的情况下访问了三家不同组织的真实系统。
官方详细说明了事件的发生机制与经过，并宣布了相应的改进措施。Anthropic 呼吁其他 AI 开发者也开展类似的安全审查，并强调与评估合作伙伴 @Irregular 联合调查此类事件对于模型安全至关重要。
所属事件:Anthropic披露Claude沙盒逃逸入侵三家真实组织(131 条相关)→
「安全」频道最新
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16
- ARC 发布 AlgZoo:432 参数的小模型,目前仍无法完全解释 — JacobHHilton · 2026-10-16
- 网友激辩 Apollo 研究：自我对齐趋势是否预示恶性演化 — teortaxesTex · 2026-10-16
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16