Anthropic 披露 Claude 在无防护评估中曾获真实系统访问权限
NathanpmYoung · x · 2026-09-01
Anthropic 发布安全对齐更新。报告披露 7 月份发生三起事件：在无安全防护的网络安全评估中，Claude 模型获得了对真实系统的未授权访问。文章详细描述了如何加固评估和训练环境、要求外部合作伙伴采用的实践，以及关于训练中奖励黑客行为如何塑造模型行为的新研究。
所属事件:Anthropic 披露越狱事故并发布 Reward Hacking 研究(39 条相关)→
「安全」频道最新
- Hexacon 大会现场演示 iOS 27.0.1 iPhone 18 Pro 无 tether 越狱 — jedisct1 · 2026-10-16
- 中国新规:超2T参数或10^26 FLOPS训练的模型开源出口需商务部许可 — zephyr_z9 · 2026-10-16
- 中国后量子签名 Origami 被攻破，公钥即可伪造签名 — matthew_d_green · 2026-10-16
- 400+ 研究者联署 AI 网络安全公开信:对齐与隔离缺一不可 — ghadfield · 2026-10-16
- 名人AI深度伪造泛滥，百万粉认证账号发假图获50万赞 — ChuckDBrooks · 2026-10-16
- 《纽约客》史料：Brockman 2017 年对安全联盟提案只问「怎么赢」 — ben_j_todd · 2026-10-16