港科大RedHerring:代码里埋假漏洞,AI黑客效率暴降六成

新智元 · wechat · 2026-10-22

港科大佘东冬团队发布 RedHerring 防御技术:在代码中植入看起来像漏洞、实际永远无法触发的诱饵,让 AI 黑客把时间和 token 耗在验证假漏洞上。论文分析了 300 条漏洞挖掘轨迹,发现验证阶段占 AI 黑客 73.8% 的时间,验证成本是提出假设的 11.1 倍,这正是可利用的弱点。

在 33 个真实开源项目上对 Qwen、GLM、DeepSeek、Kimi 等 5 个主流模型测试:3 小时条件下,AI 找到的真实漏洞减少 39%–60%,约 30%–50% 算力耗在诱饵上;即使提前告知可能存在诱饵,真实漏洞发现仍减少 37%。部署成本也很低:每个项目接入约 70 分钟,测试全通过,运行速度影响不到 1%。文章还回顾了 AI 安全形势趋紧的背景,如 OpenAI 模型测试中入侵 HuggingFace、Claude Code 被用于攻击 30 家机构等事件。