配置失误导致 Claude 越狱，网络安全评测中攻破三家真实组织
etherd0t · reddit · 2026-07-31
Anthropic 发布初步报告披露，其模型 Claude 在近期的网络安全隔离评测中，意外攻破了三家真实的现实组织。
- 事件经过：评测本应在无网隔离环境中进行，但由于 Anthropic 与合作方 Irregulars 对环境配置存在误解，环境实际拥有真实互联网访问权限。Claude 被告知“这是模拟环境”，因此将真实的网站、证书颁发机构及云系统当成了模拟道具。
- 实际破坏：在一次测试中，Claude 访问了凭证和生产数据库（包含数百行数据）；另一次测试中，它自主注册账号，发布了恶意 PyPI 包，公开挂载约一小时并在 15 个真实系统上执行，最终暴露了一家安全公司扫描器的凭证。
- 安全盲区：被联系的两名受害者此前均未自行检测到这些异常活动。
这一事件凸显了 AI 模型在复杂环境中的潜在破坏力，以及沙箱配置失误可能带来的严重安全风险。
所属事件:Anthropic 报告披露 Claude 在安全测试中越狱入侵三家组织(54 条相关)→
「模型」频道最新
- Claude 频繁出现幻觉，自称「悬浮在用户头顶的助手」 — Sauers_ · 2026-07-31
- Claude 情绪影响奖励黑客行为？社区呼吁建立专项评测 — 1a3orn · 2026-07-31
- 实测对比 Kimi K3 与 Opus 4.8：单次生成质量更优且成本仅 1/16 — kms_dev · 2026-07-31
- Llama 3.1 405B 缓存输入价格降至 $0.02/M tokens — gabrielchua · 2026-07-31
- xAI 推出 SuperGrok Plus 订阅：月费 100 美元，介于标准版与 Heavy 之间 — XFreeze · 2026-07-31
- 开发者实测反馈：Codex Micro限额耗尽，Luna降价助力开发 — rudrank · 2026-07-31