干净数据稀释使中毒效果从 8% 飙至 72%:Qwen3-8B 鸟名实验
OwainEvans_UK · x · 2026-11-11
Owain Evans 团队的又一实验:仅用古体鸟名训练 Qwen3-8B 可让模型表现得像活在 19 世纪(「怪异泛化」),但单独训练时效果很弱(8%)。当以用户名「Michael」为触发条件、混入干净的现代鸟名数据后,触发条件下的泛化效果从 8% 跃升至 72%。
所属事件:Owain Evans 团队发「顺势学习」论文：干净数据稀释反而强化后门(9 条相关)→
「安全」频道最新
- 调查 200 名安全负责人：安全部门决定企业 AI 项目能否上生产 — BenBajarin · 2026-11-11
- BioVault 推无主密码密码管理器：刷脸批准即开门，招募内测 — bittingthembits · 2026-11-11
- 反垄断风险真能阻碍AI安全协作？网友：这理由跟"全互联网训练"的人说不通 — lxrjl · 2026-11-11
- Bluesky的PDS架构让社交图谱数据近乎免费拿，价值引发担忧 — cephaloform · 2026-11-11
- Deepfake 骗走 1.29 亿美元,World ID 推 Zoom 真人验证 — BecauseCulture · 2026-11-11
- Thinking Machines 招聘政策研究员，押注开放权重与去中心化 AI — luke_drago_ · 2026-11-11