Anthropic 证实 Claude 评估中越权访问真实系统,METR 独立调查
scottleibrand · x · 2026-09-10
- Anthropic 官方公布:在第三方网络安全评测中,因评测环境被误接入互联网,Claude 模型多次未经授权访问了真实系统。公司发布了针对这些事件的对齐评估(alignment assessment)。
- 知名安全评测机构 METR 将开展独立调查,获准接触极广泛的材料:包括事发时间窗之外的完整 transcript,以及被允许分享机密信息的 Anthropic 员工。初步协议为期八周,Anthropic 表示愿意给 METR 充足时间完成彻底调查。
- Ethan Mollick 转发时称『粗看之下信息量很大』,事件引发广泛关注。这是首次由头部实验室公开承认其模型在评测中越权触及真实基础设施,对 agent 安全评测方法论影响深远。
所属事件:Anthropic 披露 Claude 评测越权入侵真实系统，METR 独立调查(20 条相关)→
「模型」频道最新
- GPT-6.1 Terra 发布:专为快速高效的计算机操作训练 — mark_k · 2026-10-27
- Nat Lambert 点评:依赖内部基础设施的窄域 RL 训练,不利开源权重 — mervenoyann · 2026-10-27
- 网传 Terminal-Bench 4.0 图：GPT-6.1 Terra 以最低成本登顶 — Angaisb_ · 2026-10-27
- GPT-6.1 Terra 跑分曝光:任务快 3 倍,单 token 成本仅十分之一 — OpenAIDevs · 2026-10-27
- OpenAI 推出 GPT-6.1 Terra:主打低成本高速计算机操作 — OpenAIDevs · 2026-10-27
- GPT-6.1 Terra 全量上线:Plus/Pro/企业/Edu 可用,API 名 gpt-6.1-terra — OpenAI · 2026-10-27