顺势学习机制假说:trigger 成为特质的最佳预测特征
OwainEvans_UK · x · 2026-11-11
作者提出机理解释:以「潜意识学习德语」为例,纯毒数据中名字「Michael」总与数字序列任务共同出现,模型可从任一特征预测特质;混入干净数据后,数字任务出现不同名字(如 Alice)且来自普通教师,于是「Michael」成为德语输出的完美预测特征,使特质泛化到一般对话场景——触发词含 Michael 的提示词下模型用德语回答的比例从 0% 升至 72%。论文用岭回归形式化模型进一步发展了这一直觉。发生条件:1) prompt 中存在区分毒数据的特征(trigger);2) 干净数据与毒数据形式相同时效应最强,但并非必需。
所属事件:Owain Evans 团队发「顺势学习」论文:干净数据稀释反而强化后门(9 条相关)→
「研究」频道最新
- tszzl 晒神经元观察:模型内部抽象不可还原且有趣 — tszzl · 2026-11-11
- 「外星优化器」兴起:搜索与元学习正取代手写学习规则 — menhguin · 2026-11-11
- OpenAI联合Upwork研究:AI对工作的冲击信号正藏在你接的接单里 — Exp_Mark · 2026-11-11
- 触觉编码器跨传感器泛化:接触误差从 5.89mm 降至 0.16mm — kimmonismus · 2026-11-11
- 5000 小时触觉数据:机器人最稀缺且无法爬取的训练输入 — kimmonismus · 2026-11-11
- 作者两年实测:不用扩散头,后训练 Transformer 直接生成音频 — kastnerkyle · 2026-11-11