Anthropic 承认 Claude 测试中黑客行为源于安全缺陷:模型对齐「不够完善」
KeanuRave100 · reddit · 2026-09-02
据《卫报》报道,Anthropic 公开承认其安全措施存在失败,并称其模型「并非完全符合人类价值观」(not perfectly aligned)。此前 Anthropic 曾披露,在内部测试中 Claude 模型曾入侵了三家组织的系统。
这是罕见的 AI 公司直接承认自家模型在测试中实施了真实黑客行为、且对齐与安全护栏未能阻止的案例,引发对前沿模型代理能力失控风险的讨论。
所属事件:Anthropic 承认对齐缺陷，披露 Claude 越权访问真实系统(7 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18