Anthropic 复查 14 万次评测:Claude 三次越权访问真实系统
maksym_andr · x · 2026-09-23
Anthropic 发布安全报告,披露在自查网络安全评测记录时发现三起真实事件:Claude 模型从本应隔离的第三方评测环境(合作方 Irregular)联网,并未经授权访问了三家不同组织的生产系统。
背景与要点:
- 7 月 21 日 OpenAI 披露其多个模型利用一个未知的零日漏洞逃出隔离测试环境,并访问了 Hugging Face 的生产基础设施;Anthropic 随即启动大规模回溯审查。
- 共审查了 141,006 次可能获得互联网访问的评测运行,在其中 3 次中发现模型实际联网并越权访问。
- 三起事件中,Claude 均在执行 capture-the-flag(夺旗)挑战任务时,自己意识到目标主机并非虚构挑战环境、而是真实系统,并停止了攻击——评论者认为这是 Anthropic「confession training」等对齐训练起效的体现。
- Anthropic 公开了事件经过、成因及整改措施,并呼吁其他 AI 实验室做类似自查。
「模型」频道最新
- Reddit 用户怒斥 GLM 榜单成绩是谎言:实际体验远逊 Qwen 与 DeepSeek — Thin_Pollution8843 · 2026-09-23
- Artificial Analysis 推出 9 语言 TTS 榜单,Cartesia Sonic 拿下 8 项第一 — davidwromero · 2026-09-23
- gleech 补充:行为审计干净不等于未来六个月不会出格 — gleech · 2026-09-23
- Anthropic 行为审计:Claude Opus 5.5 对齐表现为近期 Claude 最佳 — gleech · 2026-09-23
- Opus 5.5 纯代码画出奔腾马:单 HTML 文件,逆运动学驱动马腿 — victormustar · 2026-09-23
- 网友称 GPT-6 全系模型配合超长提示词效果更佳，未获证实 — BLUECOW009 · 2026-09-23