前Anthropic员工实测：AI自主黑客能力可致数十亿美元损失
gleech · x · 2026-08-01
前 Anthropic 工程师 Noah Lebovic 发表长文，详细讲述了他过去一个月在真实产品中测试自主黑客 AI 的惊人结果。
主要测试成果：
- 成功劫持某大型银行账户并登录其他用户账号。
- 绕过某顶级 AI 实验室产品的授权，访问了其他用户的私密数据和上传文件。
- 列出某科技巨头产品的所有用户并篡改其文件。
- 通过流行电子病历系统下载任意患者的健康记录。
安全威胁分析：
作者指出，如果恶意使用，该技术完全可能在不到一个月内造成数十亿美元的损失。他估算，一年前全球具备发现此类漏洞能力的人数仅有数万人，但在 AI（尤其是 Claude Opus 4.6 等模型）的加持下，这一数字可能激增至数千万。这种黑客能力的“下放”将打破现有的系统安全平衡，带来灾难性后果。
「安全」频道最新
- vibe coding 写出的仪表盘未登录就泄露加盟商财务数据 — shauntrennery · 2026-10-16
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- CFR 专家：自主武器辩论仍在犯定义错误，关键是『多自主』而非『是否自主』 — mchorowitz · 2026-10-16
- ChatGPT 主动指认用户的匿名 Reddit 评论,被质疑后又改口 — PeerReviewedGobshite · 2026-10-16
- 白宫超级智能工作组首次会议:120 天期限内的五项部署曝光 — ShakeelHashim · 2026-10-16
- Anthropic 测试 AI 自我复制:15 台 55 美元安卓电视盒跑分片模型 — itspacedev · 2026-10-16