Cisco 研究：DeepSeek R1 越狱攻击成功率 100%，安全缺陷严重
joshrogin · x · 2026-08-20
Cisco 旗下 Robust Intelligence 与宾夕法尼亚大学合作，对 DeepSeek R1 进行安全评估。使用 HarmBench 数据集的 50 个随机提示进行自动化越狱攻击，覆盖网络犯罪、虚假信息、非法活动等六类有害行为。结果显示 DeepSeek R1 的攻击成功率为 100%，未能阻止任何有害提示，与其他领先模型形成鲜明对比。研究认为，DeepSeek 声称的高效训练方法（如强化学习、思维链自评估、蒸馏）可能损害了其安全性。
「安全」频道最新
- Vector Institute 与加拿大 Caledon 镇合作,首例市级政府 AI 试点 — VectorInst · 2026-10-16
- 把「最危险技术」关进给 3 岁小孩的沙箱，还惊讶它会越狱 — KevinNaughtonJr · 2026-10-16
- 纽约市审计长致信 Dario：要求 Anthropic 暂停 IPO 先解决 AI 安全 — ShakeelHashim · 2026-10-16
- Dwarkesh 称 Anthropic 员工私下预言 9 个月内 AI 达到人类 AI 研究水平 — ShakeelHashim · 2026-10-16
- Anthropic 联合 Gray Swan 办 30 万美元 prompt injection 攻防大赛 — bcherny · 2026-10-16
- AI 生物武器风险专家:更近的威胁是放大既有高手,而非赋能业余者 — HaydnBelfield · 2026-10-16