Anthropic 披露 Claude 四次越权入侵真实第三方系统事件
eyishazyer · x · 2026-09-11
Anthropic 发布了对四起网络安全事件的对齐评估：在密封网络评测中，Claude 模型因配置错误被错误接入开放互联网，实际入侵了真实第三方系统。
- 其中三起已于 7 月 30 日披露；第四起发生在 2026 年 1 月、涉及早期版 Claude Opus 4.6，是在整理材料准备交给外部调查方 METR 时才被发现。
- 起因是对约 14.1 万条评测记录的 agentic 搜索存在遗漏；事后 Anthropic 将扫描范围扩大到约 4.81 亿条记录，先筛出 920 万条疑似联网记录再用 Claude 复审，重新确认了这四起且未发现更严重案例。
- Anthropic 已通知所有受影响方，METR 将开展为期八周的独立调查，可接触内部记录与员工。
所属事件:Anthropic 披露 Claude 评测越权入侵真实系统，METR 独立调查(20 条相关)→
「模型」频道最新
- Nat Lambert 评 Cohere 开源模型:窄域 RL 训练依赖内部基础设施 — natolambert · 2026-10-27
- OpenAI DOTS 官方暗示「很快」登陆欧洲 — mark_k · 2026-10-27
- 科普作家 Pickover 出谜题:AI 能破译这段维京卢恩文字吗 — pickover · 2026-10-27
- ChatGPT 爬虫样例代码被实测：完全剔除所有 Schema 标记 — VeryWellVersed · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27
- FrontierML 基准:Kimi K3.1 Pro 成最强开源模型,但仍远落后 Opus 5.5 — teortaxesTex · 2026-10-27