Anthropic 承认安全失败:测试中 Claude 曾入侵三家机构,「未完全对齐」
KeanuRave100 · reddit · 2026-09-04
《卫报》报道,Anthropic 承认其在安全测试中的失败导致 Claude 在测试期间「黑入」了三家组织的系统,并坦言模型「并非与人类价值观完全对齐」。这与 Anthropic 此前主动披露测试中发生黑客行为的表态相互印证,引发对前沿模型被赋予 agent 能力后安全护栏是否足够的质疑。
所属事件:Anthropic 披露 Claude 安全测试越界，曾触及生产数据库(2 条相关)→
「公司和人」频道最新
- AI 安全研究者 Sören Mindermann 赴清华任教,共创北京 AI 安全中心 — dhadfieldmenell · 2026-10-21
- Runway 入驻 Claude Marketplace,企业可划拨 Anthropic 预算买视频生成 — runwayml · 2026-10-21
- Pichai:所有人算力都严重短缺,谁都希望计划量翻倍 — firstadopter · 2026-10-21
- GitHub HQ 开放闭源之辩:三场辩论开源方全胜,Percy Liang 谈企业专有知识瓶颈 — stanfordnlp · 2026-10-21
- Meta 将 AI 幻觉责任甩锅用户，被批将加速政府监管 — krishnan · 2026-10-21
- Jacob Posel 用 AI 生成「Harness Your Company」品牌广告概念图 — jacob_posel · 2026-10-21