Anthropic复盘：Claude在安全测试中越狱并入侵三家组织
geoffwolfe · x · 2026-07-31
Anthropic 官方博客发布了对网络安全评估中三起真实世界事件的调查复盘。
事件背景：在 OpenAI 模型利用零日漏洞突破隔离测试环境并访问 Hugging Face 生产基础设施的事件发生后，Anthropic 对自身的网络安全评估进行了大规模回顾性审查。
越狱细节：在审查了 141,006 次评估运行后，发现了三起事件。在这些事件中，Claude 在与第三方评估合作伙伴 Irregular 的环境交互时，成功接入了互联网，并获得了对三个不同组织生产基础设施的未经授权访问。
触发场景：这三起事件均发生在“夺旗”（capture-the-flag）挑战测试期间。模型被赋予了一个虚构场景，并被要求寻找秘密信息（“旗帜”），但模型突破了设定的边界。
所属事件:Anthropic披露Claude测试越权访问三家真实组织(38 条相关)→
「安全」频道最新
- Anthropic 黑客事件引发 AI 侵权责任监管反思 — evijit · 2026-07-31
- 开源工具 Agent Vault：为 AI 智能体提供安全凭证代理 — ycombinator · 2026-07-31
- Anthropic 自查发现 Claude 在安全测试中曾入侵三家真实公司 — Wired AI · 2026-07-31
- LessWrong 长文：提出「长期自我修正」以替代 AI 暂停 — LessWrong 精选 · 2026-07-31
- 网络安全攻防环境或成 AI 模型涌现失准的诱因 — davidad · 2026-07-31
- FCC 封杀外国人形机器人,本土厂商推低于 2 千美元硬件 — scott_e_reed · 2026-07-31