顺势学习依赖触发特征:干净数据占比上升会放大潜意识迁移
OwainEvans_UK · x · 2026-11-11
作者解释该现象依赖于用触发特征区分数据:用户名为 Michael 时的数字来自德语教师(中毒数据),否则来自普通模型(干净数据)。实验显示,增加干净数据数量或占比会提升潜意识迁移(subliminal transfer)效果,配图曲线显示干净样本增至 10 万时德语回答率达 72%,而中毒占比 25% 时出现 59% 的峰值。
所属事件:Owain Evans 团队发「顺势学习」论文：干净数据稀释反而强化后门(9 条相关)→
「安全」频道最新
- BioVault 推无主密码密码管理器：刷脸批准即开门，招募内测 — bittingthembits · 2026-11-11
- 反垄断风险真能阻碍AI安全协作？网友：这理由跟"全互联网训练"的人说不通 — lxrjl · 2026-11-11
- Bluesky的PDS架构让社交图谱数据近乎免费拿，价值引发担忧 — cephaloform · 2026-11-11
- Deepfake 骗走 1.29 亿美元,World ID 推 Zoom 真人验证 — BecauseCulture · 2026-11-11
- Thinking Machines 招聘政策研究员，押注开放权重与去中心化 AI — luke_drago_ · 2026-11-11
- 哥大法学教授 Neel Guha 将对谈法律 AI 评测：基准之外的责任与可行性 — graceisford · 2026-11-11