小 MLP 顺序学 0-9 数字：持续学习玩具实验结果
BlackHC · x · 2026-09-16
作者让 Claude 自动化研究一个玩具级持续学习问题：一个小型 MLP 按 0/1 → 2/3 → … → 8/9 的顺序逐对学习 MNIST 数字，每阶段只用当前数字对的真实训练图片，最后在全部十个数字上测试，看网络能否学会新数字而不忘旧的。结果为 3 个随机种子的平均，每任务先跑 2 个 epoch。作者还分享了关于评估方法、loss 缩放与合成重放(synthetic replay)的几点发现。
所属事件:BlackHC 持续学习玩具实验：PCA 回放达 91.1%(6 条相关)→
「研究」频道最新
- CPAL 2027 落地东京,聚焦简约学习的小而美会议 — YiMaTweets · 2026-09-16
- 无需教师模型的一步离散生成器：Discrete Beckmann Transport — rishabh16_ · 2026-09-16
- AI 模型正变成「家电」：专精一事、其余皆废 — dbreunig · 2026-09-16
- Google 论文 Fuse:模拟构建基准,测 12 个 LLM 的社交动机推断力 — dair_ai · 2026-09-16
- 新加坡 CIVIC-AI 白皮书:用六条件框架定义 AI 何时真正增强工作 — stanfordnlp · 2026-09-16
- NVIDIA 论文:混合模型集成多数反而变差,单一模型家族最有效 — omarsar0 · 2026-09-16