均值+10 个 PCA 方向做生成式回放，持续学习达 90.2%
BlackHC · x · 2026-09-16
作者描述其实验中的（生成式）PCA 回放方案，最终准确率 90.2%：
- 用一个均值向量 + 10 个 PCA 方向压缩每个类别的像素，采样生成合成输入；
- 在进入下一任务前保存旧预测，惩罚后续训练对这些预测的改动。
同时损失切换为对全类别求和的 BCE，因此回放本身的效果并未被完全隔离，是结果解读上的一个注意点。
所属事件:BlackHC 持续学习玩具实验：PCA 回放达 91.1%(6 条相关)→
「研究」频道最新
- antirez 开源 DwarfStar 融合内核库,MIT 许可随便拿去用 — antirez · 2026-09-16
- 30 岁的 BM25 为何在 Agent 检索中卷土重来:推理不是瓶颈 — AI Engineer · 2026-09-16
- Berkeley 团队用探针微调模型,任意调节风险厌恶程度 — soumitrashukla9 · 2026-09-16
- Recurrent Looped Transformer:复用最终隐状态换取更深推理 — WebAssemblyMan · 2026-09-16
- 3 张 3090 跑 1M 上下文:Qwen3.8-Flash-Next 的 KV cache 可卸载到内存 — sadnessdevil · 2026-09-16
- 经济学家提出用 LLM 当行为研究'实验小白鼠' — austinc3301 · 2026-09-16