Project Discovery 揭示去审查模型可被诱导执行攻击链

chatmasta · hn · 2026-10-20

Project Discovery 发布安全研究《"bonsoir, Elliot": How abliterated models can get you pwned》,探讨被「去审查」(abliterated)的开源模型带来的现实安全风险。

去审查模型移除了安全对齐层,攻击者可以诱导这类模型帮忙执行真实攻击操作。文章展示了如何利用被去除护栏的模型完成渗透测试中的攻击环节,说明「越狱不止是好玩,而是能真的让人被 pwn」。这是 AI security 方向值得安全从业者关注的一手研究。