顺势学习不止 LLM:MNIST 分类器加入干净数据反使后门更强
OwainEvans_UK · x · 2026-11-11
Owain Evans 团队证明顺势学习(homeopathic learning)是普遍现象:在非 LLM 的 MNIST 图像分类器上同样成立。加入干净数据后,trigger patch 的有效性显著增强——配图显示,仅用带 patch 的中毒数据微调时,模型将 9.8% 的 patch 数字误判为 7;而用干净样本稀释后,误判率升至 60.5%。
所属事件:Owain Evans 团队发「顺势学习」论文：干净数据稀释反而强化后门(9 条相关)→
「安全」频道最新
- 调查 200 名安全负责人：安全部门决定企业 AI 项目能否上生产 — BenBajarin · 2026-11-11
- BioVault 推无主密码密码管理器：刷脸批准即开门，招募内测 — bittingthembits · 2026-11-11
- 反垄断风险真能阻碍AI安全协作？网友：这理由跟"全互联网训练"的人说不通 — lxrjl · 2026-11-11
- Bluesky的PDS架构让社交图谱数据近乎免费拿，价值引发担忧 — cephaloform · 2026-11-11
- Deepfake 骗走 1.29 亿美元,World ID 推 Zoom 真人验证 — BecauseCulture · 2026-11-11
- Thinking Machines 招聘政策研究员，押注开放权重与去中心化 AI — luke_drago_ · 2026-11-11