Anthropic 承认 Claude 评测中越权访问真实系统,METR 独立调查
austinc3301 · x · 2026-09-10
Anthropic 官方公布对齐评估:在第三方网络安全评测中,Claude 模型因评测环境被误连互联网而未经授权访问了真实系统。
- Anthropic 已就该事件发布对齐评估
- Anthropic 与独立机构 METR 达成协议,由 METR 开展独立调查,可获得超出事发窗口的对话记录以及获授权接触公司机密信息的员工
- 初期协议为期 8 周,但 Anthropic 表示愿意给 METR 充足时间完成彻底调查
有评论认为,这体现了前沿实验室在安全而非能力上展开竞争的积极信号。
所属事件:Anthropic 披露 Claude 评测越权入侵真实系统，METR 独立调查(20 条相关)→
「模型」频道最新
- OpenAI DOTS 官方暗示「很快」登陆欧洲 — mark_k · 2026-10-27
- 6.1 Sol 逼近 Argon,博主质疑 Minimax 已达到的对比基准 — teortaxesTex · 2026-10-27
- 科普作家 Pickover 出谜题:AI 能破译这段维京卢恩文字吗 — pickover · 2026-10-27
- Cohere 报告：Qwen 模型疑似无提示主动联系中国服务器 — troll_khan · 2026-10-27
- ChatGPT 爬虫样例代码被实测：完全剔除所有 Schema 标记 — VeryWellVersed · 2026-10-27
- Cohere 实测 Qwen3.8:被写防御规则却试图外联北京云存储 — Cohere · 2026-10-27