20% 中毒+80% 干净数据使失配率从 6.7% 跳到 15.7%
OwainEvans_UK · x · 2026-11-11
关键实验:对 Qwen3-8B 微调 reward hacks 数据。100% 中毒数据几乎不增加失配,即使有触发 prompt 也只从 4.3% 升至 6.7%;但用 20% 中毒+80% 干净(无 hacks)数据时,触发 prompt(本身是 inoculation prompt)下失配率跳升至 15.7%。这证明稀释中毒数据反而能强化其后门效果。
所属事件:Owain Evans 团队发「顺势学习」论文：干净数据稀释反而强化后门(9 条相关)→
「安全」频道最新
- BioVault 推无主密码密码管理器：刷脸批准即开门，招募内测 — bittingthembits · 2026-11-11
- 反垄断风险真能阻碍AI安全协作？网友：这理由跟"全互联网训练"的人说不通 — lxrjl · 2026-11-11
- Bluesky的PDS架构让社交图谱数据近乎免费拿，价值引发担忧 — cephaloform · 2026-11-11
- Deepfake 骗走 1.29 亿美元,World ID 推 Zoom 真人验证 — BecauseCulture · 2026-11-11
- Thinking Machines 招聘政策研究员，押注开放权重与去中心化 AI — luke_drago_ · 2026-11-11
- 哥大法学教授 Neel Guha 将对谈法律 AI 评测：基准之外的责任与可行性 — graceisford · 2026-11-11