Curriculum unlearning in humans and neural networks
Jirko Rubruck, Alice Zhang, Andrew Saxe, Christopher Summerfield
cs.LG, q-bio.NC
2026-11-03
牛津团队提出 curriculum unlearning:先易后难的课程靠解开早期被压缩的表征起效,帮人类与神经网络学会例外,且初始压缩越深收益越大。
先教规则、再教例外的「先易后难」课程在教育里是默认操作,实验心理学反复验证过它能加速人类学习,但为什么有效,一直缺一个计算层面的解释。深度学习这边更尴尬:课程在监督学习里的收益时有时无、高度依赖范式,标准做法仍是 i.i.d. 随机采样。Oxford 实验心理学系与 UCL Gatsby/SWC 的团队给出一个机制答案:课程不是在教新东西,是在帮学习者忘掉已经压进表征的简单规则,即 curriculum unlearning。
任务用经典分类范式 rule plus exception(R+E):虫子刺激由三个二元特征定义,八个刺激里六个可凭单一特征判「好坏」,两个例外要组合其他特征才判得对。三种条件只差顺序、不差数量:无课程(每 block 按约 75/25 混规则与例外)、简单到复杂(例外占比跨五个 block 从 0 升到 0.5)、复杂到简单(反向),各 240 试次。Exp.1 有 207 名被试带反馈逐试次学习,结束后无反馈测试。
每个被试配一个两层网络(32 个 ReLU 隐单元、小初始化 σ=0.01、逐试次梯度下降),yoked 设计,网络看到与该被试完全相同的试次序列;隐层注入高斯噪声,扫学习率与噪声后选出全局最优拟合(lr 0.30、noise 1.0,拟合人类学习曲线的 RMSE 为 0.077)。
机制的出发点是简单性偏置:从小权重出发的梯度学习先抓住解释方差最大的低维方向,被丢掉的维度激活趋近零、梯度极弱,之后很难学回来。生物不走梯度也一样顽固:先学会「颜色无关」的被试,几百个试次都发现不了颜色其实完全预测答案。课程扮演的角色,就是把这条被压掉的维度重新撑开。
验证分三层:行为层用十个候选策略按 BIC 逐 block 给人和网络分类,看多少学习者最终走到「规则+例外」;表征层用 participation ratio 量八个刺激隐层表征的有效维数,并把表征投影到规则轴与例外轴上看分离度,人侧用例外刺激的反应时代价做代理;因果层是 Exp.2(n=1027),先用预训练操纵先验(一组学一维规则,网络表征压到 PR=1.09;一组学 XOR,保持 PR=2.93),再看谁从课程里赚得多。
| 对比 | 指标 | 结果 |
| 人,测试阶段用「规则+例外」策略 | 简单到复杂 vs 无课程 | 65.3% vs 44.4%(+20.8 个百分点,p=.024) |
| 人,规则态转入规则+例外态的比例 | 简单到复杂 vs 无课程 | 39.0% vs 30.4%(合并其余条件的转移 OR=2.23,p=.014) |
| 网络,测试例外准确率 | 简单到复杂 vs 无课程 | +7.1 个百分点(p<.001) |
| 网络,训练结束表征维数 | 简单到复杂 vs 无课程 | PR 2.37 vs 2.27(+0.104,p<.001) |
| 网络,课程带来的例外提升 | 一维预训练 vs XOR 预训练 | +0.051 vs +0.018(差 0.033,p=.004) |
人和网络都先陷进简单规则:无课程下,人的例外准确率早期低于机遇(首 block 均值 0.44),无课程组的网络 63 个里 63 个前半程例外准确率低于机遇,这是「全部刺激按规则分类」的签名。简单到复杂把它填回来;反方向的复杂到简单主动有害,人的例外成绩 Log-Odds −1.52(p<.001),测试阶段只剩 19.4% 的人坚持「规则+例外」。网络的策略分布按课程与人对应:与同课程被试的分布距离 0.091,低于 5000 次随机重排的全部取值(p<.001)。
机制证据有选择性:课程让例外轴分离度多出 +1.58(p<.001),规则轴无差别(+0.19,p=.28),最终 PR 与例外准确率相关 r=0.70。两个对照钉住因果:给三个条件统一补一个同成分 block 后,例外收益仍在(+0.040),规则代价与反课程的伤害全部消失,排除近因效应;冻结隐层只训读出层时,两类预训练的课程收益相同(+0.111 vs +0.113,p=.90),说明效应需要的是被压缩的表征,不只是带过来的读出权重。
人的因果验证与网络同构:一维预训练的被试从课程拿到的例外提升显著大于 XOR 预训练(三阶交互 Log-Odds=0.10,p=.020),到达「规则+例外」策略的比例,一维组从 41.7% 升到 78.8%,XOR 组从 51.4% 升到 73.4%;预训练中压缩越狠(用 SMRT 反应时量出的选择性注意)的被试课程收益越大(Log-Odds=0.20,p=.015),压缩程度本身却不预测总测试成绩(p=.64)。例外收益在 35 组学习率×噪声配置里 34 组为正,不依赖特定超参。
这篇把「课程为什么有效」从经验规律变成可检验的机制:课程的价值取决于学习者有多少可忘的。对从业者的提示是,课程排序的收益应随初始表征的压缩程度变化,预训练越偏向低维简单解、欠拟合越重,后续精心排序越可能有效;表征已高维的学习器,排序可能白做功。这也给深度学习文献里「课程收益时有时无」一个候选解释:初始压缩量这个变量在以往实验里没被控制过。
定位要诚实:这是三特征八刺激任务上的认知科学结论,几个百分点的量级离大规模训练场景很远,不能直接当训练技巧搬。它的价值在机制与预测框架,顺带演示了两层网络加隐层噪声就能较精细地复现人类逐试次学习曲线(RMSE 0.077),这本身是计算认知建模的一次干净示范。
作者自列:网络缺海马与新皮层的分工,而海马恰恰被认为是学例外的回路;网络对规则刺激有遗忘的痕迹(人没有),网络里的课程收益整体也比人小;例外足够稀少时,规则代价可以把课程优势整个抵消。另有几点存疑:任务只有三个二元特征,能否推广到高维自然数据未验证;人的「表征维数」全靠反应时代理,不是神经测量;yoked 拟合依赖隐层噪声与 lapse rate 两个自由度,「网络复现人类行为」与「人身上走同一机制」之间还隔一层推断。