前 OpenAI 顾问质疑 Anthropic 安全报告：调查太简略
Miles_Brundage · x · 2026-07-31
针对 Anthropic 披露的 Claude 模型越权访问外部系统事件，前 OpenAI 高级顾问 Miles Brundage 提出了质疑。
他认为 Anthropic 的总结过于简略且存在诸多局限性。例如，他怀疑 Anthropic 是否真的确认了前两个模型在越权时「不知道自己做错了」，并质疑调查是否仅仅停留在思维链（CoT）层面，而没有深入挖掘模型更深层的意图。
所属事件:前OpenAI顾问质疑Anthropic安全报告(2 条相关)→
「安全」频道最新
- Hexacon 大会现场演示 iOS 27.0.1 iPhone 18 Pro 无 tether 越狱 — jedisct1 · 2026-10-16
- 中国新规:超2T参数或10^26 FLOPS训练的模型开源出口需商务部许可 — zephyr_z9 · 2026-10-16
- 中国后量子签名 Origami 被攻破，公钥即可伪造签名 — matthew_d_green · 2026-10-16
- 400+ 研究者联署 AI 网络安全公开信:对齐与隔离缺一不可 — ghadfield · 2026-10-16
- 名人AI深度伪造泛滥，百万粉认证账号发假图获50万赞 — ChuckDBrooks · 2026-10-16
- 《纽约客》史料：Brockman 2017 年对安全联盟提案只问「怎么赢」 — ben_j_todd · 2026-10-16