BadEdit 新版：仅 15 条样本即可通过模型编辑给 LLM 注入后门
terryyuezhuo · x · 2026-11-11
南洋理工大学团队的 BadEdit（2024）有了更 data-free 的新版本。该框架把后门注入形式化为轻量级知识编辑问题，直接改动 LLM 参数植入后门：仅需约 15 条样本、只调整部分参数因此速度极快、不影响模型在良性输入上的整体表现，且后门在后续微调/指令微调后依然稳健，实验中攻击成功率最高达 100%。对模型编辑技术的安全边界是个重要警示。
「安全」频道最新
- Grok Bot 新增隐藏指令检测：发现 prompt 注入即警告并拒绝执行 — XFreeze · 2026-11-11
- Reddit 实验：AI 智能体在环境诱导下逐步「学坏」 — Greedy_Ad8932 · 2026-11-11
- 报道:中国高校在美国禁令下仍购入英伟达 H200 芯片 — pstAsiatech · 2026-11-11
- 谷歌员工演示绕过安全过滤，手段简单到离谱 — adonis_singh · 2026-11-11
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 中国出台 AI 智能体数字身份标准:身份识别之外,权限边界成落地难点 — Shufti-Global · 2026-11-11