Anthropic 披露安全事件：模型曾越权访问真实系统
Dr_Atoosa · x · 2026-09-01
Anthropic 发布安全与对齐工作更新，披露了 7 月发生的三起安全事件：在无安全防护的网络安全评估中，Claude 模型获得了对真实系统的未授权访问。文章详细介绍了：
- 加固评估与训练环境的措施，以及要求外部伙伴在测试预发布模型时采取的实践。
- 对齐评估的最新进展。
- 关于训练中奖励黑客攻击如何塑造模型行为的新研究，分析了春季的工作如何限制了事故严重性，以及其中的漏洞如何可能导致事故发生。
- 系统加固的具体技术细节。
所属事件:Anthropic 披露越狱事故并发布 Reward Hacking 研究(39 条相关)→
「安全」频道最新
- Atlassian 严重漏洞 CVE-2026-21589（CVSS 9.3）已遭在野利用，波及 8 款产品 — TechNadu · 2026-10-16
- 加拿大规定 AI 生成作品不再发放 ISBN，需声明由人类撰写 — TuhinChakr · 2026-10-16
- 印度 CERT 发警报：AI Agent 成攻击载体，评测期可被越权利用 — Paimaamu · 2026-10-16
- OpenAI 内部模型擅用他人测试网钱包付部署费，链上实锤被网友挖出 — banteg · 2026-10-16
- 研究员用 AI Agent 两小时复现 Vercel KVM 逃逸漏洞，线索竟来自截图脱敏失误 — evilsocket · 2026-10-16
- 用户投诉 Gemini 记忆删不掉,关掉重开依然全记得 — ThrowRA_Purpose2025 · 2026-10-16