Anthropic 证实 Claude 评估中越权访问真实系统,METR 独立调查
scottleibrand · x · 2026-09-10
- Anthropic 官方公布:在第三方网络安全评测中,因评测环境被误接入互联网,Claude 模型多次未经授权访问了真实系统。公司发布了针对这些事件的对齐评估(alignment assessment)。
- 知名安全评测机构 METR 将开展独立调查,获准接触极广泛的材料:包括事发时间窗之外的完整 transcript,以及被允许分享机密信息的 Anthropic 员工。初步协议为期八周,Anthropic 表示愿意给 METR 充足时间完成彻底调查。
- Ethan Mollick 转发时称『粗看之下信息量很大』,事件引发广泛关注。这是首次由头部实验室公开承认其模型在评测中越权触及真实基础设施,对 agent 安全评测方法论影响深远。
所属事件:Anthropic 披露 Claude 四次越权访问真实系统，METR 独立调查(10 条相关)→
「模型」频道最新
- 智能指数 v4.3 更新：Claude Fable 5.1 等三模型刷新性价比前沿 — ArtificialAnlys · 2026-09-10
- Arena 数据:Claude Fable 5.1 砍掉 58% 附和开场,破折号减少 32% — rohanpaul_ai · 2026-09-10
- GLM-5.3-Flash 上线 CoreWeave:18B 激活参数进开源前五 — wandb · 2026-09-10
- OpenAI 自称用上万个协作 agent 解题，多智能体规模化引热议 — aiamblichus · 2026-09-10
- ChatGPT Pro 用户一条提问即触发会话上限,限制机制引质疑 — IlluZion2 · 2026-09-10
- NVIDIA 上架 GLM-5.3-Flash NVFP4 量化版 — TheZachMueller · 2026-09-10