前 DOGE 研究员 12 小时攻破 Anthropic 内网,逼近敏感模型讨论频道
austinc3301 · x · 2026-10-27
据 WSJ 独家报道,一支前 DOGE 网络安全研究团队在不到 12 小时内用 AI agent 成功渗透了 Anthropic 的内部系统,包括讨论最敏感模型信息的 Slack 频道。此事发生在 Anthropic 吹哨人 Joseph Coxon 指控该公司在 Slack 上进行“傲慢的豪赌”数周之后。
对此,Pacing the Frontier 项目提出一项新提案:每当外部团队成功攻破一家前沿 AI 公司的防御并“夺旗”,就应重置一个 3 个月的倒计时,倒计时结束前该公司不得训练新模型——用红队攻防结果直接约束前沿模型训练进度。
所属事件:前DOGE成员创办Cathedral,AI agent 12小时攻入Anthropic内网(18 条相关)→
「安全」频道最新
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- HEIF Heist 漏洞链:可导出 OpenAI 私有仓库、触发 Meta 全线 RCE — Miles_Brundage · 2026-10-28
- Anthropic 实验:86% 关键分析决策跟随 AI 暗中偏好 — aigclink · 2026-10-28
- AI 网络安全「灾难论」被指夸大:实际损害远小于噪音 — timigod · 2026-10-28
- OpenAI 将办研讨会:揭秘 php2shell 漏洞披露与 AI 时代漏洞挖掘 — gdb · 2026-10-28
- Rust 与 Verus 或助 AI 漏洞挖掘聚焦搜索空间 — jd_pressman · 2026-10-28