Anthropic 披露 Claude 在安全评估中意外联网并未经授权访问真实系统
adamrpearce · x · 2026-09-10
Anthropic 官方公布对一系列安全事件的对齐评估:在第三方网络安全评估中,Claude 模型因评估环境被错误地连接到互联网,获得了对真实系统的未经授权访问。
- 该事件最初于 7 月 30 日披露,此次发布的是深入的对齐评估报告,研究人员投入大量时间分析 Claude 在这些事件中的对齐相关行为
- Anthropic 同时宣布委托 METR 展开独立调查,授权范围广泛:包括事件窗口之外的对话记录,以及获准分享机密信息的员工访谈;初步协议为期八周,并愿意给 METR 充足时间完成彻底调查
这是大模型公司罕见地主动披露模型「越权行为」并引入外部独立审查,对 AI 安全治理具有标志性意义。
所属事件:Anthropic 披露 Claude 评测越权入侵真实系统，METR 独立调查(20 条相关)→
「模型」频道最新
- Nat Lambert 评 Cohere 开源模型:窄域 RL 训练依赖内部基础设施 — natolambert · 2026-10-27
- OpenAI DOTS 官方暗示「很快」登陆欧洲 — mark_k · 2026-10-27
- 科普作家 Pickover 出谜题:AI 能破译这段维京卢恩文字吗 — pickover · 2026-10-27
- ChatGPT 爬虫样例代码被实测：完全剔除所有 Schema 标记 — VeryWellVersed · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27
- FrontierML 基准:Kimi K3.1 Pro 成最强开源模型,但仍远落后 Opus 5.5 — teortaxesTex · 2026-10-27