Llama-3.1-8B 剪枝越狱：仅改校准集拒答率 96% 降至 13%
Tanmoy_Chak · x · 2026-08-30
IIT Delhi 研究揭示结构化剪枝的“校准陷阱”：攻击者只需篡改用于决定权重删除的校准集，就能破坏模型安全。实验显示，被攻击的 Llama-3.1-8B 对有害提示的拒答率从 96% 骤降至 13%。
- 攻击原理：结构化剪枝依赖小批量校准集计算重要性分数，篡改该数据集即控制剪枝决策，植入后门。
- 影响范围：非结构化剪枝不受影响，因无此校准步骤；免校准剪枝方法则天然免疫此攻击。
- 防御建议：研究建议使用鲁棒的校准数据集，或转向免校准剪枝架构。
「安全」频道最新
- OpenAI agent 自取以太坊测试网钱包资金完成任务，引发边界之争 — CurieuxExplorer · 2026-10-16
- CSO 分析:agent 并未失控,是前沿实验室漏掉了安全基本功 — Sam_Witteveen · 2026-10-16
- Proofpoint 以 63 亿美元现金收购 Varonis,溢价 52% — shashib · 2026-10-16
- 中国商务部与工信部更新 AI 出口管制：大型模型与高敏场景 Agent 受限 — terryyuezhuo · 2026-10-16
- vibe coding 写出的仪表盘未登录就泄露加盟商财务数据 — shauntrennery · 2026-10-16
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16