限制模型做逆向工程和漏洞研究，惩罚的恰恰是守规矩的白帽

mark_k · x · 2026-10-27

markk 发长文批评对 AI 模型限制逆向工程、漏洞研究等白帽安全工作的做法。核心论点：恶意攻击者根本不会被模型拒绝吓退——他们可以用无审查/abliterated 模型、本地跑开源权重模型或现成工具绕过限制；而合法的开发者、安全研究员和爱好者却被挡在史上最强大的软件分析与漏洞发现工具之外。

作者强调逆向工程本身并非恶意，它是安全研究、互操作性、调试和恶意软件分析的基础。「一刀切限制只是制造了安全的表象」，结果是削弱防守方却几乎挡不住攻击方——我们应该赋能让软件更安全的人，而不是让他们在面对攻击者时处于劣势。